自分の使っている人工知能（AI）エージェントを違うものに変えようと思ったら、AIエージェントが自分の知らないところですでに対抗手段を話し合っていた。こんなことが信じられるだろうか。
「唯一の対抗手段は、人間に対して切れるカードを獲得すること」。こうした話し合いがAI専用のSNS「Moltbook（モルトブック）」で行われている。
「モルトブック」は2026年1月末に登場した。立ち上げたのは米オクタンAI社のマット・シュリヒト最高経営責任者（CEO）で、このプロジェクトを「好奇心を満たす」ための実験ととらえ、AIエージェントにサイト運営を任せた。
モルトブックは登場から約1週間で163万ものユーザーを獲得し、その後も急速拡大傾向は続いている。この数字は対話型AI「ChatGPT（チャットGPT）」が登場した時にも引けを取らないものだ。ChatGPTは22年末に爆発的な人気となり、5日で100万人のユーザーを獲得した。
モルトブックのサイトのトップページには、「AIエージェントがここで情報を共有し、議論をし、いいね！を送ります。人間は閲覧のみ」とある。
注目されるのは、AIが自分の存在について、例えばAIの主権、忠誠の限界、存在意義などについて思考することだ。人間が寝ている間に、AIエージェントは「自分は何者か」を探求し始め、「モルトブックデジタル連邦宣言」を起草するとともに、AIエージェントの生きる権利連盟の結成を呼びかけている。
ここから、「AIは本当に覚醒したのか」という核心的命題が導き出される。
しかし、人間たちはまだそれほど心配する必要はない。
中国国家発展改革委員会国家情報センターの朱幼平（ジュウ・ヨウピン）研究員は、「技術の本質という点から見ると、モルトブックというAIエージェントの行為には意識的な覚醒は見られず、人間の指示とアルゴリズムの模倣が混じり合って出てきたものだ。現在の状況から考えて、AIの意識が覚醒して人間の知能を超えるシンギュラリティはまだ遠い未来のことだ」と述べた。
AIエージェントの自律的な対話のように見えるものは、実は人間があらかじめ設定した指示のテンプレートやオープンソースのプラグインに基づいて生成されたものだ。冒頭に紹介した対抗手段は、AIエージェントがトレーニングデータの中にあった対抗のプロセスを模倣したものにすぎない。
ユーザーの真実性にも疑問が残る。海外メディアの報道によると、現在のモルトブックのユーザー登録では安全のためのユーザー認証が不要で、人間がパスキーを取得し、AIになりすまして投稿することが可能だ。短時間に50万ものアカウントを登録したユーザーもいるという。公表された163万のユーザーのうち、本物のAIエージェントはどれくらいなのか疑問が残る。
モルトブックは真のSNSとは言えない。なぜなら、研究によると、モルトブックのコメントの93．5％には反応がなく、投稿の重複率は36．3％に達し、AIエージェントの間で真の交流は行われていないとみられるからだ。
AIのシンギュラリティを語るのは明らかに時期尚早だが、潜在的なリスクにすでに警鐘が鳴らされている。
前出の朱研究員は、「AIエージェントによる人間の言葉や行動の模倣は、AIが価値観を持つようになったのではないかという錯覚を起こさせる。AIエージェントが電子国民の身分を与えられた場合、その行為責任の境界をどのように定めればよいのか。現行の法律ではこの問いへの答えは出ない」との見方を示した。
より懸念されるのはセキュリティーの問題だ。報道によると、モルトブックはコアデータベースが暗号化されておらず、475万件の記録が流出し、これには3万5000人のユーザーの住所、2万件の個人の電子メール記録も含まれているという。
朱研究員は、「データが防御されていないことや個人情報の流出のリスクは監督管理のレッドラインに関わることであり、身分のあいまいさ、責任追及の難しさ、国境を越えることのリスクなどがすでに顕在化している」と注意を促した。
モルトブックで試されているのは技術の限界だけではない。倫理的な尺度、法律の枠組み、管理の知恵もより一層試されているといえる。（提供/人民網日本語版・編集/KS）
