ホリエモン風ディープフェイク、「Claude」の罠…ヤバすぎるAI詐欺の最先端をセキュリティ大手が解説

　2025年の特殊詐欺被害額は前年比およそ2倍となる1414億円に達し、過去ワーストになった。とくに近年は、生成AIの技術を悪用した事例も多くなっている。

　4月27日にひらかれた、イーセットジャパン（ESET JAPAN）オンライン詐欺対策プレス発表会では、イーセットジャパン株式会社、永野智代表取締役社長と、ESET セキュリティ アウェアネススペシャリスト オンドレイ・クボヴィチ氏が登壇。クボヴィチ氏が最新のオンライン詐欺事例をこれでもかと紹介した。　

　まずはディープフェイクをつかって、“ホリエモン”こと堀江貴文氏が投資に勧誘する映像が流れた。同じような映像や広告がSNSで回ってきた人もいるかもしれない。

「短期で利益を上げられる上昇株をわかりやすく紹介」

　こう語るホリエモン風ディープフェイクはイントネーションが若干あやしいものの、声色やビジュアルは本人そっくりで、かなり完成度が高かった。ホリエモンをこれまで知らなかったというクボヴィチ氏は「AIは瞬きが多いですね」と言っていたが、まさしくホリエモン本人のクセである。

　こうした著名人がAI技術などを使って本人になりすまし、投資に誘いこむ「Nomani 投資詐欺」は日本でもオンライン上で数万件確認され、世界ワースト2の多さなのだという。

　次に日本で件数が増加しているフィッシング詐欺や、最先端のQRコード詐欺などの事例がデータや写真とともに紹介された。世界全体のフィッシング攻撃が2025年上半期→下半期で+34%の伸びにとどまったのに対し、日本だけは同期間に+120%と倍以上に急伸。QRコードを悪用した「クイッシング」も日本は世界と比べて件数が伸びていた。

　一番衝撃を受けたのが、「AI-Fix」「ClickFix」という名前で紹介されていた攻撃だ。

　ソフトウェアをインストールしたいユーザーが、「ソフトウェア名＋インストール」で検索する。

　現状、claude.ai配下にはユーザーが未検証のコンテンツページを作成することができるのだ（ページ上部には小さく「Content is user-generated and unverified」の注意書きが出ているが、まず誰も読まない）。そして詐欺師はそのページを広告などを使って、検索エンジンの上位に表示させユーザーを欺く。

　ページに指示されているコマンドを実行すると、悪意のあるコードが実行され、PCのデータが抜かれてしまうという。これはネットリテラシーが高い層でも騙されてしまう危険があると感じた。

　AI時代にネット空間でどう安全に過ごすのか？　最後に身を守るチェックリストを紹介した。

・デバイスは安全か
・WIFIは安全か
・OSとアプリは最新状態か
・プライバシーに注意しているか
・アカウントは不正アクセスされにくいか
・フィッシングや詐欺を見抜けるか
・デバイスは適切に保護されているか
・ハッカーの視点で考えられるか
・支払いは安全か
・データのバックアップは安全か

　結局はこういった基本のきを地道に実践する。あるいはイーセット社が提供しているようなセキュリティソフトを購入するしかないということか。

　なお、イベントにはESET HOME セキュリティ 体験パートナーに就任した、ガールズメタルグループのHAGANEも登場し、生演奏も行った。

取材・文：BEST T!MES編集部