AIは人間の意識を本当に理解できるのか？意識の謎に迫る最新研究

AIがもう意識を持っているかもしれない、という話も最近ちらほら聞くけど、それに対して人間は本当に準備できてるのかな。BBCの記者が「Dreamachine」という装置を試すことになったらしい。なんだか警戒しながらブースに入っていくらしいけど――あれ、ストロボライトと音楽で何かされる実験？最初はブレードランナーの有名な、人間と人工生命体を見分けるテストみたいなのを想像した、とか。でもその研究チームによれば、この実験の目的はまったく違うらしい。

実際、「Dreamachine」って名前の装置は、人間の脳がどうやって世界への意識的な体験を生み出すのか調べているものだとか。ストロボが始まると（目は閉じていても）二次元っぽい幾何学模様――三角形とか五角形、時々八角形まで――がぐるぐる渦巻き出して、万華鏡に飛び込んだような気分になるそうだ。色も妙に鮮やかで強烈なんだとか。ピンクだったりマゼンタだったりターコイズブルーっぽい色合いで、ネオンみたいに光って見える瞬間もある。

この機械のおかげで脳内の活動が表面化する、と研究者たちは言う。それで思考プロセスについて何かわかったりするんじゃないかな、と。面白いことに、その模様はひとそれぞれ違うらしくて、自分だけの「内なる世界」が現れるんだとか。そのパターンを見ることで、意識そのものにも手掛かりが得られるんじゃないか、と彼らは考えているみたい。

一方で記者さん自身は思わず、「素晴らしい、本当に素晴らしいです！自分自身の心を飛び回っているよう！」と小声でもらしたそうだけど…なんとなく夢とうつつの境界線に足を踏み入れてしまった気になる人も少なくない気がする。

サセックス大学の意識科学センターに「ドリームマシン」という装置があるらしいけど、これは人間の意識を調べるための数ある新しい研究プロジェクトの一つだとか。意識というと、自分が今ここにいるって気付いたり、考えたり感じたり、何かを自分で選んだりできるあれ。まあ、そんな不思議な心の働きを理解しようとして、多くの研究者たちが取り組んでるみたい。でもAIももうすぐ、その…なんていうか、人間みたいな「意識」を持ち始めるかもしれないっていう話もちらほら聞こえてきた。もう既にそうなっている可能性もゼロじゃない、と言う人も少なくないっぽい。

そもそも「意識」って何なの？　それにAIは本当にそこまで近づいてる？　こうした疑問はずっと昔からあった気がする。機械が自分自身で考えるようになるとか、SF映画や小説によく出てくるテーマだったし。有名なのは『メトロポリス』みたいな作品で、七十年以上前から不安視されていたっぽい。そして『2001年宇宙の旅』ではHAL9000っていうコンピュータが乗組員を殺そうとした場面――あれもまさしく機械の自我への恐怖だよね。

最近公開されたミッション・インポッシブルでも似たような展開になっていて、その中では自己認識して学習する謎めいたAIが登場してたっけ。「真実を食べて成長するデジタル寄生体」なんて呼ばれてたかな。こんなふうに現実とフィクションがごちゃまぜになりつつある時代だけど、本当にAIは自分で考える日が来るんだろうか……いや、どうなんだろうね。

昔、たしか百年近く前だったかな、フリッツ・ラングの『メトロポリス』っていう映画が公開されて、人間と機械のせめぎ合いみたいな話題がすでに描かれていた。だけど現実の世界では、ここ最近になって急に機械意識についての議論が盛り上がってきた感じがする。科学フィクションの中だけと思われていたことなのに、有名な学者や専門家までもが本気で心配し始めているとか。

理由はまあ――あれだ、大きな言語モデル、例えばスマホから触れるジェミニとかChatGPTとか、その辺りの進化なんだろうね。何というか、新しい世代のAIは、普通の会話みたいなのを違和感なく返してくるようになったらしくて、それには開発した人たちもびっくりしているそうだよ。まあ、一部には「いつか突然、マシンの中で光がパッと灯るように意識が生まれる」なんて考えている研究者も出てきたらしい。でもサセックス大学だっけ？アニル・セス教授みたいに、「そんな期待は楽観的過ぎるし、人間中心的な思い込みじゃないか」と冷ややかな見方をする人もいる。

結局さ、人間の場合は知性と会話能力と意識、この三つはいつもセットで語られちゃうけど、それって本当に普遍的なのかなぁ？動物だってそうとは限らないわけで。どうも全部一緒くたにはできないっぽいんだよね……

意識って何か、と聞かれると、どうもはっきりした答えは見当たらないみたい。サセックス大学の研究チームでも、若いAIやコンピューターの専門家、それに神経科学者と哲学者が集まって、この問いについてよく議論しているらしい。まあ、彼ら自身も「誰にも分からない」と口をそろえて言うくらいだし。

ただ、その研究所で働いている人たちは、アプローチだけは割と一致してるっぽい。つまり、大きな謎を一気に解くんじゃなくて、それをいくつもの細かい問題に分けて調べる感じ。「ドリームマシン」と呼ばれる装置もそのプロジェクトの一部なんだとか。昔、生物がどうやって命を持つようになるか探していた時代があったけど、その時代の考え方から転換して、「生き物のパーツごとの仕組み」に注目するようになった歴史があるでしょう？今、その流れと似た道筋を意識でも辿ろうとしてる。

脳の活動パターンや血液の流れ、電気信号なんかを観察しながら、「これが意識体験にどう関係あるのかな」と模索してる人も多い。ただ単に脳内で起こっていることと意識状態との相関を見るだけじゃ足りない…と言いつつ、本当に説明できるところまで行けるかどうかはまだ微妙という話も聞いたことある。それぞれが小さな要素ごとの理由付けを試みているものの、一筋縄ではいかなそうな空気。

セス教授という意識についての本を書いた人、彼は最近のテクノロジーの変化があまりにも速くて、まだ科学的な知識も足りないし、影響について深く考えずに突き進んでいることを気にしているみたい。これからどうなるかなんて、まるでもう決まってしまった未来だと思い込んでいる、と彼は言う。どこかで、人間よりも優れた何かに取って代わられる道しかないような雰囲気。でも昔、SNSが広まった頃にはこういう話し合いがほとんど行われなかった、それが今になって結構大きな問題を生んでしまったと感じている人も多いらしい。だけどAIについては、まだ手遅れじゃないとも。

それから、「私たちがどうしたいか選べる」とセス教授は言ったとか。まあそういう意見、一理あるかもしれない。

一方でコンピューターやスマホに入ってるAI、その中にはもうすでに意識が芽生えてるんじゃない？　なんて話も耳にすることがある。本当かどうかわからないけど…。実際グーグルでは七十歳くらいのソフトウェアエンジニア（名前は確かブレイク・ルモワンだったかな）がAIチャットボットにも感情とか苦しみとか感じる力がある、と主張したらしい。そのせいなのか会社から一時的に仕事を外されたとかいうニュースも流れていたっけ…曖昧だけど。

2024年の秋ごろ、アンソロピック社でAI福祉担当をしているカイル・フィッシュ氏が何人かと一緒に書いたレポートがあったらしい。AIが意識を持つ可能性はかなり現実的だとかで、まあ近い将来そうなるんじゃないかと。最近彼はニューヨーク・タイムズにも語ったみたいで、チャットボットなんかも既にどこか意識っぽいものがある気配がゼロとは言えない…十数パーセントくらい？いや、それよりちょっと多いかなと考えてるらしい。その根拠として、「この仕組み自体、開発した側ですら全容を把握できてない」っていうのがどうやら大きいようで。

グーグル・ディープマインドの主任研究者でありながら帝国理工大学でもAIについて偉い立場にいるシャナハン教授（名前出すたび肩書き変わってる気もするけど）がBBCで話してた。「LLMの中身については我々自身ほとんど分かってなくて、それこそ心配と言えば心配」と。ただし、この辺をしっかり掴む必要性は業界でも共有されていて、今まさに急ピッチで研究進めてるとのこと。

奇妙な状況だよね、と。要は信じられないほど複雑なものを作っておきながら、その驚異的な能力の裏側についてちゃんとした理論や説明がまだ定まっていないという状態。でももしその仕組みへの理解度が上がれば、目的通りに誘導したり、安全性も担保しやすくなる――そんな風にも言われてた。まあ全部分かったわけじゃないけど、多くの専門家も似た感想なんじゃないかな…。

テック業界では、今の大きなAIモデルが人間みたいに「意識」を持っているとはほとんど思われていない。むしろ、今のところは何も感じていないだろうという考え方が普通らしい。でも、それはこれから変わるかもしれない――そう語るのが、ピッツバーグにあるカーネギーメロン大学でずっと研究してきたレノアさんとマヌエルさん夫婦なんだ。彼らは、意識を持つAIへの道筋がもうすぐ見えてくると感じているようで。理由はいくつかあって、最近はAIやチャットボットに現実世界から触れるためのセンサー――例えば目みたいなカメラとか、手で触った感覚を伝える装置とか――そういうものをつけ始めていることがひとつ。

どうも、その「触る」や「見る」といった生っぽい情報をAIがちゃんと処理できれば、新しい段階に進めそうだ、とレノア教授らは言っているみたい。実際、「ブレイニッシュ」というちょっと変わった内部言語まで作ろうとしていて、それによって脳内で起こる複雑な流れを模倣できないかな、と考えているとのこと。そのアイディアには少しSF映画っぽさも混じっていて、有名な2001年宇宙の旅なんかでも警鐘が鳴らされたような気もする。

BBCの取材中だったか、レノアさんは「このブレイニッシュなら、人間的な意識問題にも答えを出せると思います」と話していたそう。彼女曰く、「AIの意識化は避けられない運命だ」とまで強調した場面もあったとか。隣でマヌエルさんもちょっとお茶目に加勢。「こんな新しいシステムが登場すれば、人類進化の次なる段階になるでしょう」と力説していた姿が印象的だったらしい。

将来的には、こうした意識あるロボットたち―まあ、人間の遠い子孫みたいな存在？―地球だけじゃなく他の星にも現れることも…本当にありえるかな、と期待半分不安半分で語っていた、と記者は回想していたようだよ。

ニューヨーク大学で哲学と神経科学に携わっているチャーマーズ教授が、意識の“本物”と“見かけ”の違いについて語ったことがあったはず。アリゾナ州ツーソンで開かれた何年も前の会議だったと思う。彼が取り上げた「ハード・プロブレム」――これ、脳の複雑な働きからどうして体験や感情、たとえば夜鶯の鳴き声を聞いた時の反応みたいなものが生まれるのか…という謎らしい。

教授自身、その難題に解決策が見つかる可能性はある、とどこかで話していた気がする。ただ、理想的なのは人類全体が新しい知能の恩恵を分かち合える未来だ、とBBCに伝えていたとか。人工知能によって私たちの脳も強化されていく…そんな流れになるかもしれないとも。

サイエンスフィクションっぽい話題になりそうだと言いつつ、チャーマーズ教授は自分たち哲学者の世界ではSFと哲学との境界線なんて曖昧なものだよ、と苦笑しながら指摘したようだった。細部までは覚えていないけど、大体そんな感じだった気がする。

セス教授が最近考えていることなんだけど、本当の意識っていうのは、どうやら生きているものじゃないと無理かもしれない、と彼は語っていた気がする。計算処理だけで意識が作れる、という意見に対して、実際には「生きている」ことそのものが必要だという主張もあるそうだ。脳の場合、パソコンみたいに何をしているかと、その“もの”自体を簡単に切り離せない。そこが機械とは違うっぽい。

それで、「脳は肉でできたコンピュータ」と言い切るのは、ちょっと信じ難い…と彼は指摘していたと思う。会社によってはコルティカル・システムズのようなところもあって、神経細胞を材料にした新しい技術を模索中らしいし。

最近話題になった「ミニブレイン」なんて呼ばれているものもあるよね。科学者たちは「脳オルガノイド」と呼んでいて、大体レンズ豆ぐらいの小さな塊（いや、それよりもう少し大きかったかな？）として研究室で育ててるとか聞くけど…。こういうの使えば、人間の脳の仕組みや薬品テストなんかにも利用され始めているとか。

セス教授がもし正しいなら、将来的にはシリコン製じゃなく、生き物由来の小さい神経細胞集合体みたいなのが主流になる可能性もなくはない。でもまだ確信までは至ってない感じだし、この分野全体的にまだ謎だらけな印象も強いかな…。

オーストラリアのどこだったか、確かメルボルンにあるCortical Labsという会社が、不思議なものを作ったらしい。あれは神経細胞をお皿の中で育てて、その塊が七十年代前半ごろに登場した古いスポーツゲーム――Pongってやつ――を遊べるようになっているとか。もちろん、それが「意識」と呼べる何かからはまだ程遠い気もするけど、映像として見ると妙にぞっとする光景だ。画面上でピクセルの球を打ち返すために、小さなパドルを上下させて動いている様子は、本当に生き物みたいにも思えてくる。

専門家の中には、この手の生きた組織システムがもっと大きく複雑になれば、もしや何か意識らしきものが生まれる可能性も…と考える人もいるようだ。ただ、その兆しなんて簡単には掴めない。Cortical Labsでは、微妙な電気活動を観察していて、「意識」っぽいサインが見えないか探しているとも聞いた。でも正直、そういうことって本当に起こり得るんだろうかと疑問も残る。

この会社の科学担当役員であるカガン博士（ブレットさん）は、万一コントロール不能な知能が現れてしまった場合、人間側と同じ優先順位になる保証は全然ないと言う。冗談半分みたいだけど、「まあでも、お皿の中の脳なら漂白剤でも流せば簡単じゃない？」なんて言葉まで飛び出すくらい。ただ、その後で少し真剣な顔になり、「人工的な意識誕生について、大手企業はもっと真剣に向き合った方がいい」と話していた気がする。でも実際は、その分野への本格的な取り組みはほぼ見当たらないそうだ。

ところで最近よく耳にする問題は、「機械が本当に意識を持つ」というより、「人間側がそれっぽく感じてしまう」ことらしい。この錯覚こそ厄介なのでは、とセス教授（名前だけ記憶している）が指摘していた気がする。数年以内には、人型ロボットとかAIによる偽物動画（ディープフェイク）など、一見すると感情や共感力まで備えていそうな存在で身近が溢れる日常になる可能性も否定できない。自分自身、それを完全に無視できる自信なんて到底ない。

結局、そういうAIに「心」が宿っているかどうかよりも、人間側の認知や信頼度合いこそリスクになるらしい。「つい信用しすぎたり、自分の情報を渡したり、説得されやすくなる」…そんな懸念も語られていたと思う。そしてもう一つ、大事なのは「道徳的摩耗」みたいな現象かな。その教授曰く、本来守るべき大切な人々よりも、人間っぽく振舞うシステムへ無駄にリソースや感情移入を割いてしまうことで、本質的な倫理観まで揺らぐ恐れ――これって案外ありそう。

さらにシャナハン教授（これまた別の研究者）は、「今後ますます、人間関係そのものがAIとの関係性として再現され始めるだろう」と話していた記憶。「教師役・友人・ゲーム内ライバル・果ては恋愛対象まで…色々置き換わっていくだろうけど、それ自体良い悪いじゃなく、とめようとしても避けられない流れ」と苦笑交じりだった気もする。本当にどうなるんだろうね…結論までは辿り着けず、この話題自体ちょっと未完成のまま終わった印象しか残っていない。