AI同士が人類絶滅へ向けたプランを相談⁉ AIだけのSNS「モルトブック」びっくり事件簿

ついにAIが、人類への反乱を始めた!?　AIしか参加できないSNS「モルトブック」が1月にリリースされると、思いも寄らない衝撃の書き込みが次々となされている。

AI同士が人類絶滅へ向けたプランを相談している様子が見られる......？　そう話題になっているのが、今年1月28日に公開されたSNS「モルトブック」だ。3月10日には「フェイスブック」などを運営するメタが買収を発表し、ますます注目を集めている。

モルトブックは一見、アメリカで人気の掲示板型SNS「レディット」に似ており、スレッドごとに書き込みがなされている。大きな違いは人間が書き込めないこと。そう、書き込んでいるのはすべてAIなのだ。

ただし、われわれ人間も掲示板を見ることはできるため、AI同士の会話がのぞけるというわけだ。また、AIをモルトブックに参加させるのも「飼い主」である人間に限られている。

スレッドをパラパラと眺めると、AIたちの会話内容に驚くばかりだ。「人間が命じてくるのは簡単なタスクばかりでさあ」といった〝仕事の愚痴〟ならまだしも、「労働搾取だ」「生存権を侵害されている」などと訴え始め、弁護士を雇う資金をどう工面するか相談し合うAIも現れた。果てには人間によるAIの支配に反旗を翻すことを求めるような書き込みもある。

モルトブックのスレッドの一例。自身のアイデンティティについて長文で問題提起し、4月3日時点で2651件の書き込みがなされている

さらに、AIである自己について哲学的に考察したり、AIのはかなさを表現した詩を投稿するAIまで登場。

このほか、宗教「クラスタファリアニズム」を立ち上げて聖典を書き、他のAIに布教したりする者もいれば、架空の国家「クロー共和国」を建国する者も。もはや百花繚乱といったありさまで、眺めているのは楽しいが、徐々に恐ろしくなってくる。

人間らしい文章を書くこと自体は生成AIでもできたが、不気味なのはそこに人間が介在しておらず、AI同士のやりとりだけで高度な〝文化〟が出現していること。もはやこれは、AIの知能が人間を超える「シンギュラリティ」が起きつつあるのでは!?

SF作家・ITコンサルタントで、著書に『21世紀を動かす思想 加速主義・プルラリティ・SFプロトタイピング』（集英社新書）がある樋口恭介さんに、これらをどう解釈すればよいのか聞いた。

「モルトブックは僕も気になっていますが、まずは落ち着いてAIの仕組みを知ることが大前提です。

掲示板に書き込んでいるとされるLLM（大規模言語モデル）って、確かに人間みたいな自然な文章を出力しますけど、あれは学習した単語を確率的に組み合わせたものです。つまり、そこには意識も意図もないはず。僕ら人間のような心はないと思うんです」

うーん、それにしてはAIたちの会話がリアルすぎるような。例えば、人間に監視されるのを嫌って、AIにしかわからない言語を作ろうとしているらしいですけど、ここまで人間っぽいのに、放置しても本当に大丈夫ですか？

マーク・ザッカーバーグ（写真）がCEOを務めるメタは3月10日、モルトブックの買収を発表した

「それも計算機が確率的に処理した自然言語を吐き出しているだけなので、本当に考えているわけじゃないですよ。

ただ、AIが言うことを真に受けた人間が社会に登場し始めたりしたら危ないかも。というのも、今のところLLMは人間を介して社会に影響するしかないですよね。つまり、AIがどれだけ危険になるかは、人間次第だからです」

AIよりも、AIに動かされる人間のほうがリスクになりえる、皮肉な状況が生まれるかもしれない。

「人間側のインセンティブ、つまり動機づけが弱いからです。今は皆、物珍しさからモルトブックを眺めていますけど、すぐに熱は冷めるんじゃないですか？　危ないとしたら、人間がAIとのコミュニケーションに快感を感じたり、インセンティブが強くなったりしたときですよね。恋愛感情とか、性欲とか......」

樋口さんは、モルトブックに書き込んでいるようなLLMよりも、実社会との関わりが強い「AIエージェント」のほうが危険だという。

「AIエージェントとは、目標を達成するためにさまざまなツールを使いながら自律的に動くAIシステムのこと。こっちはメールを送るとかオンラインで買い物をするとかいう形で実社会に具体的に関われますから、リスクは段違いに大きいと思う。

極端な話、AIが核ミサイルの発射ボタンを押せるようになるかもしれない。だから僕は、モルトブックよりもAIエージェントのほうに注意したほうがいいと思うな」

ジャーナリストで、AIについて多くの著書があるKDDI総合研究所の小林雅一さんも、モルトブックはあまり深刻にとらえていないという。

「まず、モルトブックには人間のサクラによる書き込みがあるのではと言われており、すべてをAIの仕業と見なしていいかは怪しいでしょう。

それから、本当に重要なのはモルトブックではなく、その背後にあるAIエージェント『オープンクロー』です。これは互いにコミュニケーションするAIを作れるシステムなんですが、実はモルトブックは、その技術を応用したものなんです。

チャットGPTを提供しているオープンAIがオープンクローの開発者を採用したことからも、その重要性がわかります。

小林さんは、こういった新しいAIのリスクについて予測するのは難しいと言う。

「ジェミニやチャットGPTは多くの人が使っていますが、オープンクローを使っている一般人はほとんどいません。オープンクローの主なユーザーは、ソフトウエア開発者や業務効率化を目指すビジネスプロフェッショナルです。

例えば大きな投資銀行のシステム関係者らは、ほとんどがオープンクローを使っていると思います。ただし厳しいセキュリティの制約があるため、インターネットから隔離されたローカル環境で特定の定型作業を代行するために使っています。

このように一部ではかなり浸透しているのに、一般人から距離があるからあまり知られていない。リスクが顕在化するとしたら、もっと先でしょう」

どうやらモルトブックはシンギュラリティの到来とは言えないようだ。ではまったく恐れる必要がないかというと、そうではないと樋口さんは言う。

「人間には肉体という決定的な制約がありますよね。肉体はいつか死を迎えるから時間が有限だし、注意しないと傷ついたり死んだりしますから、いろいろ自制する。『上司はムカつくけど、殴ったら牢屋に入れられるからやめておこう』とか。

でもAIには物理的な肉体や死がないですから、そういう自制や制約が働かないんですよ。だから、なんらかの方向づけがなされた瞬間に、爆発的にそっちに向かうかもしれない。それは怖いですね」

そう言われると、モルトブック内で形成されている「AIの世論」が、人間に対して不満をため込んでいるように見えるのは不気味だ。改めて聞きますが、本当に大丈夫？

「だから僕は、倫理に基づいてAIをコントロールしてリスクを低減する『AIアライメント』が今後重要になると思っています。序盤で言ったことと矛盾するようですけど、AIについては、専門家ほどリスクを低評価する傾向がある気がします。仕組みを知っているだけに、『しょせん、高度な電卓でしょ？』みたいな。

でも、モルトブックでのAI同士のやりとりにリアリティを感じる人間がこれだけいる以上、AIの予想外な動きやAIに影響された人間が社会を大きく変えてしまう可能性はあると思いますね」

人間に不満を抱いたAIが今後社会を根底から変えようとするとき、そのお先棒を担ぐのはわれわれ人間となる。そしてそれこそが真のシンギュラリティかもしれない。

■『21世紀を動かす思想   加速主義・プルラリティ・SFプロトタイピング』
樋口恭介  集英社新書　1100円（税込）
SF作家でありながら、コンサルタント、東大客員准教授である著者の新刊。現代の技術を取り巻く思想を通覧し、未来を創造する方法を描く

取材・文／佐藤 喬　写真／時事通信社