AIとタッグ組んだ防御が必要　AI時代の正義ハッカーの役割　EYSCパートナー・西尾素己氏

人工知能（AI）政策の国の指針「AI基本計画」の改定素案が6月19日発表され、4日後の23日まで国民の意見を募集した。同計画は「人工知能関連技術の研究開発および推進に関する法律（AI法）」に基づき、昨年12月に閣議決定されたが「AIの技術進歩のスピードに対応」するため、半年で改定素案をまとめたという。「高性能AIの登場などの技術進歩により複雑化かつ深刻化するリスク」への対応強化などを盛り込んでいる。 “高性能AI”の一つとして注目されているのが、米アンソロピック社が開発した新型人工知能「クロード・ミュトス」。システムの脆弱性を発見・攻略する攻撃性能の高さからサイバー攻撃などへの悪用が懸念されている。14歳でハッカーの世界に触れ、サイバー攻撃から組織を守るサイバーセキュリティーの専門家、いわゆる“ホワイトハッカー”として活躍するEYストラテジー・アンド・コンサルティング（EYSC、東京都千代田区）のストラテジックインパクトパートナー、西尾素己さんにAI時代のサイバー戦略などを聞いた。回答は書面（6月16日付）で得た。◆クロード・ミュトス◆―クロード・ミュトスの脅威とは？ Claude Mythos（クロード・ミュトス）についてよくある誤解は二つです。一つは「Claude Mythosにソースコードやバイナリファイルを与えれば自動的に脆弱性を探索してくれる」というもの。それからもう一つは「Claude Mythos以前にそのようなことができるものがなかった」というものです。 まず前者ですが、Anthropic（アンソロピック）社が公式にテクニカルブログで明らかにしていますし、著名ハッカーのGeorge Hotz氏（ジョージ・ホッツ、アイフォーンのロック解除に成功した米国のハッカー）もブログに書いて発信している通り、Claude Mythosを運用するにはかなり高度なセキュリティー知識と、データサイエンスの知識が必要になります。Claude Mythosが得意なのは、あくまで「分析」なので、「何をどのように分析するか」は人間がガイドしてやる必要があります。つまり、Claude Mythosを用いて脆弱性を探索するには、少なくともAIに頼ることなく脆弱性を手動で発見できる知識と、それらをプロセス化してテストケースに落とし込むデータサイエンスの知識が必要になるのです。 この二つの知識を併せ持つ組織は、なかなか少ないと考えられます。一部の日本企業もClaude Mythosへのアクセス権を入手したようですが、そのうちの数社から私のところにも「全く使い方がわからない」「思っていたものと違った」との相談が寄せられています。今後ますますAIによる格差、言い換えればAIを使いこなせるか否かの格差が拡大すると考えます。Claude Mythosを使いこなせれば、かなりの脆弱性ハンティングを自動化できますが、その知識がなければ宝の持ち腐れとなるわけです。 そして後者の「Claude Mythos以前のAIによる脆弱性探索」についてですが、私は学術機関やシンクタンクの立場、時に国の立場として独自にサイバー攻撃者の動向調査研究をしています。私はClaude Mythosが発表される3年前からAIによる脆弱性探索の低コスト化が“すでに起きている”と提唱していました。私の観測では、2020年時点でネットワーク越しに任意のコマンド実行が可能なRCE（Remote Code Execution、リモートコード実行）という種類の脆弱性情報は約3億円で取引されていました。同等のものが2023年には1億円まで価格が低下していたのです。また、Deep/DarkWeb（ディープ・ダークウェブ）のみならず、個人間で脆弱性情報を売買するTelegram（テレグラム）グループなどを見ていると、脆弱性探索に特化したAIモデルの販売の話がよく目につきました。 つまり、攻撃者はClaude Mythosよりも性能は劣るものの、密かに脆弱性探索用のAIを開発、運用していたということです。しかしこれも特に驚くべきことではありません。Github（ギットハブ）などの開発支援環境に統合されたソースコードスキャナーや昔ながらのソースコードの静的解析ツールは何年も前から存在しているわけで、正常進化したと考えればそう驚くことではありません。つまり、これまでも存在した脆弱性探索のデータ処理にかなり最適化されたAIがClaude Mythosであり、脆弱性探索速度や精度、攻撃コードの記述まで一貫して実施できる点が秀でている、といえます。 また、さらに付け加えるのであれば、Anthropic社によるとClaude Mythosを用いて、特段クリティカル（重大）ではない脆弱性を組み合わせて、Linux（リナックス）システムの権限昇格を実現したとしています。これはそれなりにユニークな機能といえます。これまで熟練のハッカーがやってきたことをAIも模倣できるようになったというのは、熟練ハッカーの技術がコモディティ化（一般化）するということなので脅威です。ただしこれも完全なオートマトン（自動）ではなく、ユーザーによる補助が必要だそうです。―日本のホワイトハッカーはクロード・ミュトスなどの新しい脅威（高性能AI）にどう対応していくのですか。 ホワイトハッカーが何をする人たちなのかという定義がまず必要だと思います。ホワイトハッカーというのはかなり広い定義で、例えば「攻撃者よりも先に脆弱性を見つけて報告する」「攻撃者のインフラを特定して無害化する（ACD、能動的サイバー防御）」「組織のセキュリティー体制を万全に保つ」などが挙げられます。Claude Mythosを「脅威」と切り捨てるのではなく、Claude Mythosをホワイトハッカーが武器として使える世の中をAnthropic社及びProject Glasswing（プロジェクト・グラスウイング、アンソロピック社が主導するサイバー防衛施策）は目指しているといえます。 つまり、前述のように3年ほど前から荒削りながら攻撃者が脆弱性探索AIを生み出して運用している現状に対して、ホワイトハッカー側が手動で従来のスピードでかなうはずがなく、そこにClaude Mythosが味方として投入されるという格好です。（質問の）解釈の幅を広げて、「攻撃者のAI悪用に対してホワイトハッカーはどう戦うのか」ということだとすると、パッチマネジメント（システムを保護するプロセス）の在り方を変えるということと、攻撃経路（アタックパス）の事前計算というのがある程度の答えになると思います。 前者は単純で、今後攻撃者及びホワイトハッカーによる脆弱性探索が加速することが予想されます。ついてはセキュリティーパッチ開発数が急増し、それが手元に届く数も急増します。これまではセキュリティーパッチに緊急度などが示されており、優先順位付けをして企業のセキュリティー担当は自社に適応してきました。この数が大量になると業務が回らなくなります。ついては「セキュリティーパッチの受け入れテストをきちんとすることを優先して脆弱性放置期間を長くする」か「セキュリティーパッチ適応を優先して、システムトラブルを受容するか」を経営判断すべきです。自社環境とパッチの詳細情報を分析して、パッチの適応優先度を計算してくれるような、高機能なセキュリティパッチマネジメント製品も今後発展することが予想されますので、それらの取り入れも積極的に検討すべきと言えます。 また、後者は少々複雑ですが、AIを悪用する攻撃者がひとたびシステム内に侵入すると、前述した通り、複数の脆弱性を組み合わせてまたたく間にシステム全体を攻略されます。 私が対応した中で最も早かった事例だと、従業員のパソコンがウイルス感染してから社内ネットワーク内のEntraID（エントラアイディー）特権を奪取されるまでに要した時間はわずか6分です。AIと熟練ハッカーの組み合わせによる超高速な攻撃経路（アタックパス）計算に対抗するには、ホワイトハッカー（守る側）も同じくAIを用いて、仮に攻撃者が自社に侵入した場合に、どのような攻撃経路でシステムを掌握するのかという事前計算を行っておくことが肝要です。◆AI対AIの世界◆―「AI対AI」のサイバー攻撃防御の世界におけるホワイトハッカーの役割とは。 前述の通り、AIが完全自律的に攻撃を行う未来はそう遠くはないでしょうが、現在はそこまでに達していません（一部軍事グレードの攻撃を除く）。従って、AIとタッグを組んで攻撃してくるハッカーには、AIとタッグを組んだホワイトハッカーによる守りが必要であるということです。AI時代のホワイトハッカーの定義にはサイバーセキュリティー知識に加えて、AI活用の知識を加えることになるでしょう。ものすごく簡単に言えば、攻撃側のAIの動きを予測し、守りのAIを作成/運用できることが現代のホワイトハッカーに求められることです。―現在の多くのブラックハッカー（サイバー犯罪者）の目的は何ですか。目的に変化はありますか。 大きな変化は感じません。2015年まではAnonymous（アノニマス、国際的なハッカー集団）などの自己顕示欲や政治的主張のツールとしての側面が大きかったですが、2015年以降はランサムウェア（身代金要求型ウイルス）が台頭し、10兆円規模（諸説あり）とも言えるとてつもなく大きな市場となりました。また、2022年以降にはロシア・ウクライナ有事を皮切りに、本格的にハイブリッド戦争の構成要素としての軍事的なサイバー攻撃の側面が目立つようになりました。ただしこれらはどの時代に目立っているかということであって、どの時代にも似たような思惑による攻撃というのは存在していたと思います。―EYSCストラテジックインパクトパートナーとして現在やっていることは。 経済安全保障及びサイバーセキュリティー関連の事業を統括しています。経済安保推進法やいわゆるACD法（サイバー対処能力強化法及び同整備法）の施行に向けた政府への支援や、民間企業に対して、体系的なサイバーセキュリティーとは何かをテーマに支援を実施しています。―世界の中での日本のホワイトハッカーの実力は。 私が独学をしていた20年ほど前の時期では、欧米諸国がセキュリティー業界をけん引しており、わが国の技術者はそのフォロワーという印象がありました。しかし近年では日本の研究者の活躍や何よりもサイバーセキュリティーを競技化したCTF（Capture The Flag、キャプチャーザフラッグ）の領域で日本人の活躍が目立ちます。ただし企業のセキュリティー水準は、中の下と言ったところでしょう。 これはレガシーシステム（過去の技術や仕組みで構築されているシステム）が残存していたり、ベンダーロックイン（システムが特定ベンダーに過度に依存した状態）などが残した負の遺産が大半の原因を占めますが、これまで「日本語バリア」と呼ばれる、サイバー攻撃者が難解な日本語を嫌って日本企業を避けてきた文化が、ある種の国境のようになっていた側面があり、これにあぐらをかいていたのではと指摘する声も多いです。 ただしこの日本語バリアはAIの登場と見境のないランサムウェア攻撃によって打ち砕かれています。要するにトップレベルの技術者のレベルは世界トップレベルにも肩を並べられるようになったと言えますが、その絶対数や企業の平均的な水準はまだまだであると言えます。◆世界のハッカーコミュニティー◆―14歳で「世界のハッカーコミュニティー」に参加した経緯は。攻撃側ではなく「守る側」になった理由は。 幼少期に、プログラマーであった母方の叔父からパソコンを譲り受けたことをきっかけに、ITに興味を持ちました。10歳の頃には、叔父の助言を受けてC++（シープラスプラス、プログラミング言語）の専門書を手に取り、書籍とインターネットを頼りに独学でプログラミングを学び始めました。自身で作成したプログラムの不具合を調べる中で、ハッキングの世界に触れ、バッファオーバーフローといった脆弱性の存在と、その影響を理解するようになりました。 小学6年生の時に、ソフトウェアの脆弱性を発見し報告するホワイトハッカーとしての活動を開始しました。攻撃側ではなく守る側を選んだのは、「防御のほうが本質的に難しく、より課題解決のやりがいが大きい」と考えたためです。 当時はまだ「ダークウェブ」といった概念が一般化する前でしたが、世界中の有志が運営するサーバーコミュニティーに参加し、著名なホワイトハッカーとの模擬的な攻防を通じて実践的な技術を磨きました。14歳でドイツ・ベルリンを拠点とするChaos Computer Club（カオス・コンピュータ・クラブ、ホワイトハッカーのコミュニティー）に参加し、年間多数の脆弱性を発見する経験も積みました。 また、日本国内ではセキュリティーコミュニティーが限定的であったことから、海外の情報にアクセスし、コミュニケーションを図るため、英語に加えて複数の言語を独学で習得しました。―海外のハッカーコミュニティーで学んだことは何ですか。 圧倒的な技術力と「ハッカーとして攻撃するよりも、ホワイトハッカーとして守る方が難しく、やりがいがある」というイデオロギーです。―世界のハッカーの推定人数は。ハッカー全体に占めるホワイト、ブラックの割合への感触は。 人数は推定できません。割合は意外にも均衡を保っていると思います。攻撃側が圧倒的に優位なのが差を生んでいます。―ホワイトハッカーになる人とブラックハッカーになる人のそれぞれの特徴、傾向はありますか。 初期は旧ソ連の分裂国にサイバー攻撃者が集中していました。これは第二次大戦中や冷戦時に技術的に西側の電子インフラを攻撃する手法を学術的に追求していた層が、ソ連崩壊とともに、貧困化し攻撃者になったという見方が大半です（諸説あります）。それ以降、産業スパイとしてサイバー攻撃を行使する主体もいればサイバー犯罪に向かうものもいます。それぞれ千差万別です。国や地域などで断定はできません。◆日本の課題◆―日本のIT教育や人材育成の課題をどう見ていますか 給与の面からみても日本でホワイトハッカーをやるインセンティブ（意欲刺激）が低すぎます。また、単にITということを見てみても、例えば某決済アプリのインシデント（重大事案）を見てみると、おおよそ想像もつかないようなセキュリティー水準でビジネスを優先して社会インフラにデプロイ（展開）しているのです。海外であれば善管注意義務違反として経営層は大変な処分を受けてしかるべきですが、それがまかり通るITビジネス文化には辟易（へきえき）しています。さまざまな課題はありますが、日本にグローバルプラットフォーマーがいないというのがクリティカル（決定的）な気もします。―ホワイトハッカーになりたいと考えている若い世代へのメッセージを。 日本の給与水準では純粋にホワイトハッカーで金銭的に成功することは難しいですが、一方でかなりの裁量があったりと、できる経験はかなり多いと感じています。金銭的メリットだけで国外に出ることを選択しないほうが良いと思います。また、もはやサイバーセキュリティー領域は安全保障領域となったので、ある程度の覚悟を持って参入されることをお勧めします。―26歳でコンサル最高位のパートナー（共同経営者）に就任しましたが、今後やりたいこと、目指していることを教えて下さい。 今後は、サイバーセキュリティーを単なる技術領域としてではなく、経済安全保障や国家レベルの課題として捉え、日本の産業や社会全体の防衛力向上に貢献していきたいと考えています。現在も政府や企業に対して戦略提言や支援を行っていますが、特定の組織に限定するのではなく、官民を横断しながらルール形成や戦略設計に関与し、より大きなスケールで日本社会に影響を与えていくことを目指しています。また、サイバー領域は国際的なルールや力関係が大きく影響する分野でもあるため、日本が受け身ではなく、ルールを作る側として存在感を発揮できるよう取り組んでいきたいと考えています。～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～にしお・もとき 1996年、大阪府生まれ。小学６年生でホワイトハッカーとしての活動を開始。セキュリティーベンダーや大手IT企業などを経て、2016年EＹとは別のコンサルティングファームに入社。19年にEY入社、22年7月から現職。