危険すぎるAI”ミュトス”の脅威　もはや石油やレアアースに匹敵する戦略物資に

「爆弾を落とすよと言って、一億ドルの防空壕を売っているようなものだ」ライバル企業のトップにここまで皮肉られるAIとは、いったいどんなものだろうか。アメリカのAI企業「アンソロピック」が開発した「クロード・ミュトス」というAIモデルが今、世界のサイバーセキュリティ専門家や政府をザワつかせている。このAIは現在、誰でも使えるわけではなく、信頼できる約50の組織にだけ特別に公開されている状況だ。なぜそこまで警戒されているのか。「危険だから隠す」というやり方は本当に正しいのか。大阪大学社会技術競争研究センター特任准教授の工藤郁子氏の解説をもとに、この問題をわかりやすく読み解いていく。「やり方を教えるAI」から「自分で攻撃するAI」へこれまでのAIとミュトスは、何が決定的に違うのか。工藤氏はこう説明する。「これまでのAIも、サイバー攻撃の方法を説明したり、システムの脆弱性（弱点）を見つけたり、攻撃に使えるようなプログラミングコードの例を書いたりすることはありました。でも、実際に侵入して、連続した複数の作業をずっと自動的にやり続けるというのは、これまではなかなか難しかった」。つまり、これまでのAIは攻撃の「マニュアル」を作ることはできても、実際に動かすには人間が指示を出す必要があった。しかしミュトスは、「このやり方ではうまくいきませんでした。別の方法を3タイプ考えました。試してみていいですか」と、自分から提案してくる。失敗から学び、軌道修正しながら自力で作業を進められるのだ。工藤氏は、セキュリティが甘い中小企業が狙われるシナリオを挙げた。「弱点A、B、Cを組み合わせると、対象の企業の銀行口座のオンライン管理権限を乗っ取って、攻撃者側に100万円振り込ませるようなこともできるようになったのではないかと言われています」。「いい人」だけがルールを守るジレンマでは、AIに「悪いことには答えない」というルール（倫理規定）を教え込めば安全なのだろうか。工藤氏の答えは、それほど単純ではない。「そういった対策はきっと取られると思います。でも、それは守る側の手を縛ることにもなります」。ミュトスの能力を使えば、自分たちのシステムの弱点を素早く見つけてバリアを張ることができる。しかし、防御する側だけが厳しいルールに縛られてAIの機能をフルに使えなくなれば、手段を選ばないサイバー犯罪者やハッカーに負けてしまう。「危険だから能力を制限する」という発想が、結果的に自分たちの身を守る力を弱めてしまうという、厄介な矛盾があるのだ。もはや石油やレアアースと同じ「戦略物資」ミュトスをめぐる各国の動きは、もはや「IT業界のニュース」の枠を超えている。アメリカの国防総省は、自国のシステムに抜け穴がないかチェックするため、いち早くミュトスを使う権利を手に入れた。日本でも金融庁がメガバンクなどを集めて対策を急いでおり、政府の交渉によって、日本の三大銀行も近くミュトスを使えるようになると言われている。しかし、アンソロピック社がミュトスを使える組織をもっと増やそうとしたところ、トランプ政権のホワイトハウスから慎重論が出たという。理由はいくつか推測されているが、その一つは資源の限界だ。高性能なAIを動かすには膨大なコンピューターの計算パワーが必要になる。他国や他企業にそれを使わせると、アメリカ政府が自分たちの点検に使えるパワーが減ってしまう。工藤氏はこの状況をこう見ている。「クロード・ミュトスに代表されるような高性能AIは、現状において戦略物資のような扱いをされている。ほぼ国家安全保障と直結しつつある」。かつての石油やレアアースのように、誰がAIを独占するかが国家のパワーに直結する時代に入ったのだ。ライバル企業の「あおり」と皮肉な現実一方で、ミュトスの脅威は煽りすぎだという声もある。冒頭の「一億ドルの防空壕」という言葉は、「ChatGPT」を作ったオープンAIのサム・アルトマンCEOが、ライバルであるアンソロピック社を痛烈に批判したものだ。専門家の中にも、技術的にはこれまでのAIの延長線上にあると見る人はいる。しかし、皮肉なことに、アルトマンCEO率いるオープンAI自身も、「GPT-4.5 Cyber」というサイバー防衛に特化したAIを、厳しい審査を通った人にだけ限定公開すると発表した。「危険を煽って商売をしている」と批判した側が、結局は同じような売り方をしているのだ。工藤氏はこれを「同時多発的に起きていることとして見るほうがいい」と語る。ミュトスという一つのAIだけが問題なのではなく、同じくらい強力なAIが世界中で次々と生まれている「流れ」そのものを見なければならない。「半年から1年」で中国が追いつく現実アンソロピック社のCEO自身、中国で開発されているAIがミュトスと同じレベルに追いつくのは「おそらく半年から1年以内だ」と予測している。アメリカが必死に守ろうとしているリードは、ほんのわずかな期間でしかない。核兵器を作るには巨大な施設が必要だが、それと比べればAIは開発のハードルが低い。工藤氏は、核兵器の広がりを防ぐための「核不拡散条約（NPT）」の歴史を振り返り、「不拡散を誓ってもなかなか広がってしまう。だからもう広がることを前提に体制を組み、ルールを作るしかない」と指摘する。ただし、大国がAIを独占できない事態は、発展途上の新興国にとっては「希望の光」でもある。固定電話網を飛ばして一気にスマートフォンが普及したように、AIの力で一気にシステムを発展させる「リープフロッグ現象（カエル跳びのような飛躍）」が起きるかもしれない。管理したい大国にとっては厄介でも、技術を持たない国々には大きなチャンスになり得るのだ。バイデン前政権の遺産に乗っかるトランプ政権「企業は自由にAIを開発すべきだ」と主張するトランプ政権は、就任直後、バイデン前政権が作ったAIの安全ルールをごっそり白紙に戻した。しかし現実の脅威を前に、その態度は急激に変わっている。最近では、グーグルやマイクロソフトなどと、安全保障の観点でAIを事前チェックする新たな約束を結んだと報じられている。工藤氏も「バイデン政権の遺産を一度は否定したものの、やっぱり実は重要だったということで、方針転換が急速に図られている」と指摘する。実際、いまトランプ政権がミュトスを使って点検できているのも、バイデン政権時代に「公開前に政府のチェックを受ける」という約束をアンソロピック社などの企業と結んでいたおかげなのだ。誰がAIの使い道を決めるのか民間企業が「誰にAIを使わせるか」を勝手に決める仕組みには、当然不安が残る。工藤氏は「こういう基準で提供先を決めます、というルールをあらかじめ作って、そのルールに則って審査をして提供していく」という、誰もが納得できる透明なルール作りを提案する。ただ、「トランプ政権なので、パワーのある組織が横紙破りを既成事実化しそうな気もする」とも漏らす。だからこそ、企業に「安全性を重視するブランド」を守らせるためには、私たち一般ユーザーが声を上げ、世論のプレッシャーをかけていくことが大切になる。今回、競合他社と比べて安全性に配慮するアンソロピック社が最初に名乗り出たことは、一つの良い枠組みを作ったと評価できるという。日本にできる「橋渡し」の役割日本はどう対応していくべきだろうか。日本の金融機関のシステムは古くから複雑に継ぎ接ぎされており、しかも24時間止めることができない。「飛行機を飛ばしながらエンジンを変える」ような難しさの中で、AIの脅威に立ち向かわなければならない。その中で工藤氏が重視するのは、ミュトスを機に、基本的な「守り」を着実に固めることだ。それに加えて、国際的なリーダーシップの発揮にも期待を寄せる。つまり、日本が東南アジア（ASEAN）などの声をアメリカに届ける「仲介者」になることだ。「欧州が呼ぶと行かないというアメリカ政府高官がいても、日本だったら来てもいいかな、と思っている方はいる」。日本はこれまでも「広島AIプロセス」などで、世界的なAIルールの話し合いをリードしてきた実績がある。技術を使うだけでなく、倫理や安全面から「AIをどう縛るか」という議論で存在感を示すことが求められている。AIが「人間にとってリスクがあるかもしれない存在」だった時代は終わり、これからは「AIが人間よりも先に、社会の弱点を見つけ出してしまう時代」になる。クロード・ミュトスの登場は、その恐ろしい現実を私たちに突きつけた。どうAIをコントロールするか、ルールはまだ決まっていない。だが、ルールが決まるのを待つ余裕もないまま、生き残りをかけた激しい競争はもう始まっているのである。（TBSラジオ『荻上チキ・ Session』より抜粋）