「核の管理」をAIにさせるべきか　AIの軍事利用では人間の生存が考慮されなくなる可能性も

ジャーナリストの佐々木俊尚が11月15日、ニッポン放送「飯田浩司のOK! Cozy up!」に出演。岸田総理の訪米について解説した。「核の管理」をAIにさせるべきか AIの軍事利用では人間の生...の画像はこちら &gt;&gt;※画像はイメージです（AI生成）岸田総理が訪米、APEC首脳会議に出席アジア太平洋経済協力会議（APEC）の首脳会議に出席するため、岸田総理大臣は11月15日から5日間の日程で米サンフランシスコを訪問する。また、日米など14ヵ国が参加する経済圏構想「インド太平洋経済枠組み（IPEF）」の首脳会合にも出席する見通し。松野官房長官は今回の首脳会議において、「岸田総理が自由で開かれた貿易投資の推進に加え、サプライチェーンの強靭化、デジタル技術、気候変動対策といった重要課題で積極的に議論を牽引していく」と述べた。飯田）外交の1週間ですね。佐々木）個人的に興味があるのは、AIについて議論されるのではないかということです。AIで核を管理するべきかどうか佐々木）アメリカは「AIで核を管理するべきかどうか」という議論を始めていますが、中国に対して「AIの核管理をやめて欲しい」と言うのではないかという話もあります。飯田）やめて欲しい。佐々木）いま、軍事関連でAIが多く使われています。2010年代の終わりぐらいに米国防総省とGoogleが組み、イラク戦争などで空中のドローンから撮った地上映像があるではないですか。その写真をAIで解析し、「どこにテロリストのアジトがあるか」を見つけ出すという話が出ました。AIは人間にはわからないような特徴を見つけるのが得意なので。飯田）膨大な資料のなかから。佐々木）ミサイルの命中精度を上げるために、「こういう特徴がある建物はテロリストのアジトである可能性が高い」というような形でAIを活用するのです。ちなみに国防総省とGoogleが組む話は、Google社員が「AIを軍事利用するな」と猛反対したので、途中で頓挫してしまいました。しかし、Google社員がそう言っても、AIの軍事利用はどんどん進んでいきます。敵に勝つ、反撃することは最適化できるが、「地球を終わらせないようにする」ことに関しては最適化できないAI佐々木）最終的には、不安定な人間が核ミサイルのボタンを突然押したりする心配のないよう、「AIに核管理させた方がいいのではないか」という議論が出てきます。しかし、「どういうタイミングで核ミサイルのボタンを押すのか」について、果たしてAIに管理させていいものか。最適化の問題なのです。飯田）なるほど。佐々木）何を最適化するか……。敵に勝つ、あるいは攻撃を受けたらすかさず逆襲するという形であれば、AIは最適化できます。例えば、ロシアや中国が核を搭載した大陸間弾道ミサイルを撃ってきたら「すかさず反撃する」という場合は、人間よりも素早くミサイルのボタンを押せるかも知れません。ただ、「地球を終わらせないようにする」ということに関しては最適化されていないわけです。飯田）AIは。佐々木）敵に勝つことが目標なのか、地球を終わらせないようにするのが大事なのか、それは人間にしか選択できないわけです。仮に、中国から誤って核ミサイルがアメリカ本土に飛んで来たとします。それに反撃しなければいけないとき、AIにボタンを押させるのがいいのか、それとも「全面戦争になってしまうから、とりあえず一旦やめておこう」と大統領が判断するのか、難しいところではないですか。「それはAIに判断させてはいけない」という話があるわけです。AI同士の戦いでボタンの押し合いになると、人間の生存が考慮されなくなる可能性もある飯田）かつて米ソ冷戦時代も核ミサイル発射の誤報で、本当にミサイルのスイッチを押すギリギリまで至ったけれど、ソ連の将校が「これはおかしすぎる」と判断して押さなかったことがありました。佐々木）押していたら地球は終わっていましたよね。ケネディ大統領の時代にも、かつてソ連がキューバにミサイルを持って行き、一触即発になったことがありました。飯田）当時に置き換えて考えると、AIが「先に叩く」ことが最適と判断してボタンを押し、怒ったソ連が「それなら」と対応していたら……。佐々木）ロシアやアメリカ、中国がそれぞれの核をAIで管理するとなると、AI同士の戦いになり、人間の生存が考慮されなくなる可能性もありますからね。「どの問題を優先するか」は人間が判断しなければならない佐々木）AIは何か課題があって、その課題を「どのように解決するのが最善か、手っ取り早いのか」などを考えるのは得意ですが、課題そのものを設定することはできません。社会にある少子高齢化や環境問題などの課題に対し、それぞれについて「どうすれば解決できるか」をAIに考えさせることはできます。しかし、「どの問題を優先するのか」は人間が判断しなければならない。飯田）この問題を解決したら別の問題が出てしまうとか。佐々木）例えば、地球温暖化を防ごうとすると、どうしても貧困が増えてしまうというようなトレードオフがあるではないですか。それでも温暖化への対策が大事だと判断するか、あるいは温暖化対策をやりすぎると貧困が増えるから、少し抑えなければいけないと考えるのか。どちらにしろ、反論がいろいろ出てくるわけです。飯田）どちらにしても。佐々木）それで政治家は批判されるのですが、批判も自分のなかで吸収し、「これが政治判断です」と言うのが政治家の仕事であり、AIの仕事ではないということです。飯田）「地球温暖化は人間がいるからいけないのだ」というような話が、SFでは出てきます。佐々木）人間を全員殺せば、温暖化問題はあっという間に解決してしまいますからね。飯田）でも、そういうものではなかろうと。佐々木）そうなのです。プライバシーを気にしない中国のAIがアメリカよりも進化する可能性は十分ある飯田）AIに関しては、G7のなかでも「広島AIプロセス」が走り出しています。軍事利用もそうですが、AIの技術進歩が進むなかで、「どううまく使うか」という話になりますか？佐々木）すべてを解決してくれるものではないので、最終的には「人間がどう使いこなすか」に尽きるのではないかと思います。飯田）それがまた覇権と密接に結び付く。佐々木）AI技術は高性能すぎるので、1つの国や企業が独占してしまうと大変なことになるとも言われています。データを大量に収集するほど、より高性能なAIがつくれます。最近、アメリカはプライバシーにうるさくなってきていて、「個人データをあまり収集するな」という方針になりつつある。一方、中国は個人のプライバシーを気にしないので、中国のAIの方が進化してしまう可能性は十分にあるわけです。気付いたらアメリカやその他の国のAIよりも、中国のAIの方が圧倒的に強くなるかも知れない。軍事においても中国が優位になってしまう可能性が高いのです。IT企業への締め付けが厳しくテクノロジーが一気に進化することはない中国飯田）イギリスで開かれたAI安全サミットでは、アメリカと中国が一定程度規制する方向で手を結びましたが、実効性があるのかどうか。佐々木）AIの研究者同士、技術者同士の間では「AIをオープンにしていこう」という議論があるものの、国の思惑はまた別の話です。この分野に関して、ロシアは完成が遅れているので考えなくてもいいと思います。やはり、気を付けなければならないのは中国です。ただ、中国は習近平体制になってからIT企業に対する締め付けを異様に厳しくしているので、それほどテクノロジーが一気に進化する感じではなくなってきています。数年前の状況からは変わっている。GDPに関しても、以前は「2020年代に中国がアメリカを抜く」と言われていましたが、最近は成長が鈍化してしまい、最新の予測によると2040年代までずれ込むという話もあります。飯田）そんなに。佐々木）イギリスの雑誌『エコノミスト』では、そもそも追い付かないのではないかと書かれていました。テクノロジーに関しても、それほど心配しなくてもいいという議論もあります。AIに関しては「アメリカの1人勝ち」の状況がしばらく続く飯田）そうなると、逆に「アメリカ1人勝ち」の環境になってしまいますか？佐々木）それはそれでまた問題ですが、特にAIのような先端テクノロジーに関しては、ヨーロッパもかなりうしろ向きです。飯田）プライバシーの面ですか？佐々木）EUはプライバシーに厳しいですからね。このままではアメリカ1人勝ちの状況がしばらく続くのではないでしょうか。ただ、安全保障的な観点から言えば、日本としてはその方がありがたいところもあると思います。飯田）「ある程度オープンにする」という仕組みを整える。佐々木）国と国の関係というよりも、「企業同士がどこまでオープンにするのか」という議論があります。FacebookのMeta社などは「オープンにしよう」と言っているけれど、MicrosoftやChatGPTをつくっているオープンAIは、あまりオープンにしていない。そこが今後どう変わっていくのかは、まだわからないところがあります。飯田）言語の壁は存在しますか？佐々木）オープンAIは日本にも開発拠点をつくり、日本語のAIを開発しようという話になっていますが、1つの言語のAI開発には巨額の資金が必要です。日本がどこまで資金負担できるかどうかも課題になると思います。radikoのタイムフリーを聴く：https://radiko.jp/share/?sid=LFR&t=20231115071120