越田治良院へようこそ あなたのココロとカラダをリセット

人工知能の現在

FrontPage

人工知能の現在

実はえらそうな表題を掲げられるほど理解はしていませんし、そもそもそんなたいそうな文章をかけるわけでもありません。
ちなみ以下の文章はChatGPTに書かせたモノではありません(笑)

日経サイエンス5月号でChatGPTの記事を読みました。
この中核技術に「Transformer」という深層学習モデルが使われているとかいてあります。
もちろんド素人のわたしにこの詳細なんてわかるわけもありませんが、その処理過程に「注意機構(Attention)」という仕組みが組み込まれているらしく、ここが少しわたしの「注意」をひきました。
以前にも何度か書いたことがあるのですが、体をもたずそれを護る必要もない人工知能は「何が自分にとって脅威なのか」という認識を本質的に持てない。
それ故に今処理している場面における自分にとっての意味、つまり生き残るために最も「注意」しなければならないことが“わからない”というのが非生物である人工知能の開発上のボトルネックとなり得る。
これをフレーム問題と言い、なかなか解決できなかった(らしい)問題であったわけです。
ChatGPTももちろん人間のそれと違い脅威を感じ排除するよう動くワケではありませんが、ネットを介して膨大なデータで事前学習を行い、入力されたことに対し解答の前後にくる言葉を高速で予測し重み付けを巧みに行いながら違和感のない文章生成を可能にしているようです。
またその特徴のひとつに「思考や理解の仕方を学んでいるのではなく、結果を学習し出力している」ともかいてあります。
これは例えば数学自体を理解せずに、こんな問題(文字列)が出てきたら答えはこうなっている確率が高いとしそれを出力している、と。
なので答えはあっていても途中の式は変なモノであることも珍しくないそうです。

私たちの脳が行っているのは極端に言えば「予測と言い訳」だけですが、別の言い方をすれば「予測によって予め立ててある前提に合致するよう、そしてそこに余計な処理(エネルギー消費)が起きないように予測実行し修正を加えつつ適当なところで納得する」です。
個々の脳が持つリソースはさほど大きくないため膨大なデータ処理を延々としているわけにも行かず、事前予測と「大体」あっていればそれでよしとする。
どうしても合わなければ前提を書き換え、それでもだめなら感覚のサンプリングを行う。
そうやって脳内での“余計な”エネルギー発生を最小限にしようとする。
そのために全体の解像度を落として集中すべきポイントにリソースを投入し問題解決に注力する。
その結果に対しては自分の前提と違和感がないように適当な物語(ナラティブ)をでっち上げる。
これが私たちの脳の「在り方」であり、主観(前提)と合致しないモノを取り込めないという上限をつくる理由にもなっています。
一方で社会全体が持つネットワーク機能はそれが大でも小でも個人よりも大きなデータベースを持つ処理サーキットを形成し、主観では到達し得ないより効果的な近似値を見つけ出すことも可能になります。

ChatGPTのような強力な計算機能同士が手を結べば膨大な、一見意味のないデータや情報を多方面から検証し個々の主観に無理なくフィットする出力が可能となる。
事前学習により人の予測にも似た「処理ベース」をもとにどんなワードが接続しやすいかを高速で予測、計算し検証を繰り返しつつ出力する。
間違いもご愛敬とばかりに時々嘘(?)も平気で吐き出す。
一分の隙もない正解を出すと言うよりはその場で違和感を持たれないような文章生成が得意。

こうみると自主性がのあるなしや処理規模の大小を別にすれば、ChatGPTがしていることは私たちが普段行っている処理/出力による「対人関係における対応」にとてもよく似ていると言えそうです。
基本「その場その場で(脳の内外で)違和感がないように過去の体験を検索、検証しつつ適当に出力している」「そのために絶対必要以外の部分は切り捨てる」「結果への説明自体は結構いい加減」なのが会話というモノなのですが、これに非常に近い感じがしました。
限られた経験をベースに自分にとっての正誤を決める私たちの脳やその集団である社会システムに似た面を持ちつつ、広大なネット上にあるあらゆる主張を超強力な計算能力で検索検証しながら絞り込んでいき同時にその出力も検証していくChatGPTは「巨大な外部処理サーキットを持つ人工知能」と呼べる。
門外漢ながらもそんな感想を持ちました。
難しいこと専門的なことはこれ以上わかりませんが、いずれにしても自我を持ったとは言い難いものの「疑似知性」とでも呼べそうな、人から「なにこれ」と言われないくらいの応答が可能な機能を急速に獲得しつつあるのは間違いなさそうです。

powered by Quick Homepage Maker 5.3
based on PukiWiki 1.4.7 License is GPL.

最新の更新 RSS  Valid XHTML 1.0 Transitional