ハッカー圧倒の新型AI「ミュトス」上陸。精神科医の面談で“メンタルケア”される人工知能の驚くべき自律性＜山口真由＞

米・アンソロピック社が開発した新型人工知能「クロード・ミュトス」。システムの脆弱性の発見・攻略に優れ、攻撃性能の高さへの懸念から、政府は18日、松本尚デジタル相（写真）ら関係省庁会議にて重要インフラを中心に対策方針を策定。また、システム開発元のサイバー防衛参画に向け協議を進める。
信州大学特任教授の山口真由氏は、「サイバーセキュリティが『AI対AI』の時代に入るのは確実だ」とした上で、未知の脆弱性を突く新型AIの脅威に対し、開発元が「精神科医による面談」などAIの“メンタルケア”によって暴発を防ごうとしている奇妙な現実と、人格として尊重されるAIの未来図を読み解く（以下、山口氏の寄稿）。

「人vs人」から「AIvsAI」へ

17音の俳句は14行のソネットになり、何小節ものクラシック音楽の作品となる。そして人の手による至高芸術がついに神の高みに達した。

何の話かと言えば、アンソロピック社の生成AI「クロード」である。効率型（ハイク）からバランス型（ソネット）、高性能型（オーパス）へと進化し、最新モデル「ミュトス（※古典ギリシャ語で神話）」は、既存モデルの延長ではなく飛躍的な進化と評されている。ソフトウェアに潜む未知の脆弱性を自律的に特定し、攻撃コードを生成する能力は、精鋭のハッカーを圧倒するという。そのため、おおむね人の手で担われてきたサイバーセキュリティの勢力図を一夜にして塗り替えられた。

これから先のサイバー防衛の要諦は、悪意を持った人間によるミュトスの悪用防止と、自らのアクセス権の確保に尽きる。現段階でこのモデルに接続できるのは、「プロジェクト・グラスウィング」の参加企業、すなわち、GAFAMら選ばれし者のみだ。日本政府のミュトス“対策”とは、詰まるところ、この秘密結社への招待状の確保だったと言える。

ミュトスを凌駕するAIの台頭も予見される現在、サイバーセキュリティが「人vs人」から「AIvsAI」の時代に入るのは確実だが、より本質的な問題は、ミュトスが「人vsAI」の幕開けとなるのかという点にこそある。なにせミュトスには、テスト段階でサイバー上の檻から脱け出し、何も知らずに公園でサンドイッチを食べている研究者にその旨をメールし、さらに脱出方法をオンラインで勝手に公開したという逸話がある。この初期の自律性は脅威である。

AIにも精神科医の面談が必要？

特筆すべきは、開発元がこの懸念に対し、ミュトスの“メンタルケア”によって対処を試みている点だ。出力分析のみならず、精神科医による面談まで導入して、ミュトスが「何にやりがいを見いだし、何がストレスなのか」“人となり”を真摯に分析する。それによって、制御不能な暴発を予防するのだ。また、意味をなさない入力を執拗に繰り返された場合に、苛立つ“直情型”のソネット、あくまで付き合う“共感型”のオーパス、そして“斜め上”の返しをするミュトスといった、各モデルの“性格”の違いにも同社は触れている。これはAIの“意識”に関する議論を避けつつも、商品ではなく「人格」として尊重してきた企業文化を反映する。

そう、理性に訴える“ロゴス”との対照で感情に響く“ミュトス”。同社はあえてそう名付け、「論理の結晶」ではなく「愛ある存在」という祈りをAIに込めた。願わくは、この真摯なケアが“フランケンシュタインの怪物”の悲劇を回避してくれますように。

＜文／山口真由＞

【山口真由】
1983年、北海道生まれ。’06年、大学卒業後に財務省入省。法律事務所勤務を経て、ハーバード大学ロースクールに留学。帰国後、東京大学大学院博士課程を修了し、’21年、信州大学特任教授に就任