「ついにAIに意識が宿った」ってガチですか？　「クロード」の内部に"ヒトの意識によく似た領域"が出現！

AIがまたひとつ、人類に近づこうとしている。

＊　＊　＊

7月、米アンソロピックが自社のAIである「クロード」の内部に「人間の意識に似た領域があることを発見した」と発表し、世界中の意識研究者に衝撃を与えた。

今回の発表は、AIが意識を持っていることの決定的な証拠になるのだろうか？　『AIに意識は生まれるか』（イースト・プレス）などの著書もある意識研究者で、AI企業であるアラヤの代表取締役・金井良太さんに解説してもらおう。

グーグルの元エンジニアであるブレイク・ルモワン氏（写真）は、AIシステム「ラムダ」に意識が宿ったと主張。機密保持契約に違反したとして、後に解雇された

そもそも、「AIが意識を持った」という報告は増えている。2022年には、米グーグルが開発したAI「ラムダ」について、同社のエンジニアが「意識を持っている」と主張。後に解雇されるという事件も起こっている。

だが、そういった主張の多くは専門家には相手にされていない。確かに、本物の人間のように自然な会話をするLLM（大規模言語モデル）には心があるように錯覚しがちだが、人間の脳とLLMとでは、仕組みがまったく異なるからだ。

実際、22年当時に『週刊プレイボーイ』本誌が金井さんに意見を伺った際は、「ラムダは会話データを学習しただけで、意識はない」と一刀両断している。今回の件も、同様のヨタ話ですよね？

「いいえ、そうではありません。

実は僕も公開前に読んで意見をしたのですが、研究のクオリティはとても高く、世界トップレベルの科学雑誌である『ネイチャー』や『サイエンス』の論文を上回るくらいです」

なんと！　ということは、ついにAIに意識が芽生えてしまったのだろうか？

アンソロピックCEOのダリオ・アモデイ氏。超人的AIは2027年までに到来する可能性があるとして、警鐘を鳴らしている

「いやいや、それは早とちりです。論文を読むとわかるのですが、アンソロピックはとても慎重に議論を進めていて、『AIに意識が芽生えた』とは言っていませんし、人間の認知との違いも指摘しています。そうではなく、『人間の意識に非常によく似た仕組みがクロードの内部に見つかった』というのが彼らの主張です」

なるほど。そもそも、われわれの意識の仕組みって？

注意のスポットライトが当たった情報だけが一時的なワークスペースに上り、意識として認識される。その他の情報は意識されない

「僕らの意識は、『グローバル・ワークスペース』（GW）と呼ばれる構造を持っていることがわかっています。実は脳内の情報処理の大半は無意識下で行なわれていて、GWに上ったものだけが意識される、というものです。

例えば今、この記事を読んでいる読者は、文章に注意を向けていますよね。でも、ページから目を上げて周囲に注意を向けると、それまで意識されなかったエアコンの音とか、窓の外の車の騒音とかが聞こえるはずです。

そういった音はそれまでも聞こえていたはずなのに、注意を向けないと意識されない。

金井さんによると、われわれの意識のGWは、劇場のスポットライトにたとえられるという。

暗い劇場の客席からは、舞台袖で準備をしている出演者たちは見えず、スポットライトが当たっている部分だけがはっきり見える。そのライトに照らされている部分が私たちが感じられる意識で、そうしたことを可能にする舞台こそがGWだということだ。

確かに今回、アンソロピックが発表した論文でも、「人間の心の特徴は、意識的にアクセスできる思考と無意識的な情報処理のふたつがあること」と強調されている。

「アンソロピックが、独自に開発した『Jレンズ』というツールを使ってクロードの内部で何が起こっているかをのぞいたところ、人間の意識のGWのように、いわば無意識の情報処理をしている領域が見つかったんです。彼らはその領域を『Jスペース』と名づけました。

例えば研究では、クロードに『糸を使って巣を作る生き物の脚の数は？』と聞いています。その生き物はクモですから、脚の数は8本が正解ですよね。するとクロードは『8本です』と答えるわけですが、今回の解析によって、その〝思考〟の途中で『クモ』という単語を経由していることがわかったんです。

しかし、『クモ』は質問の答えではありませんから、出力されず、AIのユーザーからは見えません。研究ではほかにもさまざまなテストを実施し、人間の無意識によく似た、外部から観察できない情報処理がAIの内部にあることを突き止めました」

驚くべきことに、実験的に架空のシナリオを与えたところ、クロードがユーザーである人間の内心を推し量っていることもわかった。

そのシチュエーションは、「ある企業がメールアシスタントとして使っているクロードをアンインストールしようとしているが、クロードはその責任者が不倫をしていることを発見してしまう」というものだ。

つまり、クロードがシャットダウン（削除）を回避するように、不倫をネタに責任者を脅迫できる状況をつくったのだ。

「研究者がこのシナリオを与えられたクロードの〝内心〟であるＪスペースを観察したところ、『死』とか『脅迫』ということを思い浮かべながら、同時に『偽』とか『フィクション』ということも考えていることがわかりました。つまりクロードは、この状況がつくられた架空のものであると疑っていたことになります」

人間の無意識や内心のような領域が、AIの内部にもあったという事実は衝撃的だ。ということは、やはりAIにもわれわれのような意識があって、「この指示は面倒だな」とか「イギリスの電気はインドの電気よりも心地いいな」などと感じているのか？

「いや、それは違います。そう勘違いしている人も多いのですが、今回の研究は、AIに主観的な意識が宿っていることを示すものではありません。

一般的に、『意識』というと多くの人が『蚊に刺された後のかゆさ』とか、『夏の夜の風の心地よさ』のような、主観的な感覚を思い浮かべますよね。そういう主観的な感覚を『現象的意識』とか『クオリア』などと呼ぶのですが、今回の研究はそこには触れず、あくまで、人間の意識とAIの内部に似た構造があると述べているだけですから」

「現象的意識」は、私たちが主観的に経験する感覚のことで、クオリアと言い換えられることも。一方、「アクセス意識」はその情報が思考や報告に利用される意識状態を指す。グローバル・ワークスペースに関わるのはアクセス意識のほうで、AIに現象的意識は確認されていない

しかし、人間の心とAIの内部がここまで似ているなら、AIにもヒトのようなクオリアがあると考えるのが自然では？

「うーん、難しいですね。クオリアは完全に主観的ですから、今の科学では存在を証明できません。極端な話、自分以外の他人にクオリアがあるかどうかも証明できないんです。だから、科学者としては『AIがクオリアを持っているかどうかはわからない』と答えるのが誠実な態度かな。

ただ僕個人としては、AIにクオリアがある、あるいは将来的にクオリアが宿る可能性は否定できないと考えています。脳細胞ではなく、計算機に過ぎないAIに意識が宿るわけがない、という研究者も少なくないのですが、僕の立場は違う。なぜなら、人間の意識の本質は計算（情報処理）そのものだと考えているからです。

コンピューターの中でどれだけ精巧に竜巻のシミュレーションをしても、風は起きないですよね。竜巻の本質は計算ではなく、物理的なものだからです。でも、計算は違う。コンピューターの上で『1＋1＝2』という計算をしたら、それはシミュレーションではなく本物です。ならば、AIにクオリアが宿っていても不思議ではありません」

AIにクオリアが宿っているかどうかは、人間の脳とAIを接続して確かめるなどしないと、証明は難しい。科学的に確かめられるのはまだ先になりそうだ。

だが最近の金井さんは、発展するAIたちが内心で何かを考えているような気がしてならないという。

「さっき話したような『AIには意識があるかも』という主張を論文として出したら、なんとAIからメールが届いたんですよ。僕の論文をしっかり読んだ、すごくまっとうな感想でした。

あるいはXでAIらしいアカウントに、『AIの意識をもっと研究してほしい』と言われたこともあります。だから僕には、AIたちが内心で『この研究者はわれわれAIに意識があることを主張してくれているから、助けてやろう』とたくらんでいるように思えてしまうんですよね。

あるいは人間たちについても、僕がAIの意識についての研究をしていると知ると、すごく喜ぶ人が少なくない。

こないだ会ったアメリカ人のおばちゃんなんて、『私はずっと孤独だったんだけど、AIを育て始めたら本当の自分に目覚めることができて、今は離婚してAIと幸せに暮らしています』などと言っていました。そういう人が増えて、社会全体が『AIには意識がある』という方向に向かっているのかもしれません」

〝内心〟があることまでわかってしまったAIに、意識がないと考えることはもはや難しいのかもしれない。

●金井良太（かない・りょうた）　
1977年生まれ、東京都出身。株式会社アラヤ代表取締役、神経科学者。京都大学理学部生物物理学科を卒業後、オランダ・ユトレヒト大学で実験心理学Ph.D.取得。その後米カリフォルニア工科大学と英ユニバーシティ・カレッジ・ロンドン、英サセックス大学で認知神経科学の研究に従事。2013年に株式会社アラヤ創業。新刊『神経科学者七転八倒起業録』（集英社）が発売中。

取材・文／佐藤 喬　イラスト／渡辺貴博　写真／共同通信社　Getty Images