中華系の無料AIソフトはハッキングに有用
昨今、不正アクセスによる企業の情報漏えいが相次いでいる。その背後にはAIを悪用するハッカーの存在がある。「高性能なLLM(大規模言語モデル)が普及し、専門知識がなくてもハッキングが容易になった」と話すのはハッカーのX氏(仮名・30代)だ。
「フィッシングメール作成から情報収集、ランサムウェア(身代金要求型ウイルス)の設置まで、AIが一連の作業を代行してくれる。それが有料版ではなく、中華系の無料AIソフトで可能なので、課金すらも必要なくなっています」
ボタン一つで一日10万通を送ることも容易だ。また詐欺の手口も巧妙になっている。
「LinkedInなどのビジネスツールから標的の経歴や企業情報を調査し、それをもとにAIでフィッシングメールを大量配信。返信してきた相手に偽の通話ツールをダウンロードさせ、ディープフェイク(AI合成映像・音声)で社長や担当者になりすまし、本人だと信じ込ませてお金を送金させる。私は、ディープフェイクの詐欺用ソフトをダークウェブで、100万~300万円で売っています」
ハッカーから狙われやすいのが、ワンマン社長の会社やスタートアップ企業だという。
「こういう企業は資金があるうえに、送金権限のある人間が限定されていて釣りやすいんです。また、パスワード推測の精度をLLMが大幅に向上させたので、以前よりもヒット率が高くなっている。実際に遊びで、某企業の日本法人をハックして社長になりすましたら、簡単に330万円を振り込んできました」
もちろんこれは犯罪行為だ。
「たとえば『死体を埋める適切な深さは?』と聞いても拒否されますが、質問の仕方を工夫すると応答するようになります。そういうAIの倫理フィルターを外させる“ジェイルブレイク”が可能。モデルファイル自体を改変するジェイルブレイクは、ハッカー界隈では高い名誉です」
AI活用の収益は過去3~4年で約10億円に
また、X氏はAIを“グレーなビジネス”としても活用している。「AIで企業のセキュリティの穴を自動探索して、脆弱性のある企業をリストアップ。実際に提示しながら、『セキュリティ対策をしませんか?』と営業して、一件あたり月15万円ほどでセキュリティコンサルタント契約をしています」
ほかに、企業用のローカルLLMも販売しているという。
「ChatGPTなど多くのAIは個人名や住所などにはマスキングしますが、それ以外の相談内容などは学習データとして取り込まれている可能性が高い。企業側もこのリスクに対抗するため、近年、ローカルLLMをオフィスに導入する動きが急速に広がり需要が増えてます」
そのようなAI活用の収益は、過去3~4年で約10億円にも上る。
「ダークウェブでの取引は、すべてクリプト(仮想通貨)で行っているので、痕跡は一切残らないようにしています。逮捕に備えたマニュアルも作成していて、私のパソコンに12時間ログインがなければ、自動的にデータが全消去される仕組みにしてます」
情報の流出被害に気づいたときには、もはやなすすべなし。誰もがAIハッカーの標的になりうるのだ。
日本企業が標的になりやすい理由
「AI自体が詐欺をするのではなく、詐欺師がAIを使って『信用』を偽造できるようになった」――そう警鐘を鳴らすのは、企業向けセキュリティコンサルティングを手がけるLRM社の藤居朋之氏だ。
「攻撃者にとってAIは、無料で使える日本語教師、声優、映像編集者です。
なりすましの手口も、もはや見破りようがないレベルに達しているという。
「社長を装ったメールで『緊急』『極秘』と称して経理担当者を個別チャットに誘導し、『他の社員には内密に』と密室状態をつくってから送金を指示する。テキストだけのやり取りはシステムで検知できず、従来の対策では防げない。実際に香港では、ウェブ会議でCFO本人になりすましたハッカーに数十億円を騙し取られた事例もあります」
“逆手口”の詐欺が流行している
近年、急増しているのが、“逆手口”を利用した詐欺だという。「『なりすましが流行っているから対策ツールが必要』と言って偽のセキュリティ商材を売りつけ、逆にハッキングするケースもある。また、会社が認めていないAIサービスを社員が勝手に使って情報漏えいするケースも後を絶ちません。社内の正式な申請フォームや意思決定の仕組みが漏れた場合、そのルートを経由した攻撃には『正当な連絡だから大丈夫』という心理が働いてしまう」
なぜ日本企業ばかりが狙われるのか。藤居氏は「3つの致命的な弱点がある」と断言する。
「1つ目は、不自然な日本語が詐欺の防壁になっていたため、AIによって突破された際の免疫がまったくないこと。2つ目は業務の属人化と終身雇用で、長年同じ担当者に権限が集中しやすい構造。
誰が狙われるかわからないAI時代、どう対処すべきか。藤居氏は「騙されないようにするのではなく、なりすましに遭っても被害を防ぐ仕組みづくりが重要」と語る。
「送金や情報提供の前に必ず別ルートで本人確認し、第三者によるチェックを義務化する。AIリテラシーを高めることも大切ですが、それ以上に、『重要な会議はできる限り対面で』『決裁の際の合言葉を決める』といった、人間による対策を組み合わせることが効果的です。技術で攻めてくる相手に、技術で対抗しようとしても限界があります」
デジタルへの過信こそが、最大の隙になる――肝に銘じておきたい。
【情報セキュリティコンサルタン 藤居朋之氏】
LRM執行役員。共著に『AI時代のセキュリティ教育 なぜサイバー攻撃から企業を守れないのか?』(クロスメディア・パブリッシング)
取材・文/週刊SPA!編集部
―[ワル知恵[AI活用]術]―
![LDK (エル・ディー・ケー) 2024年10月号 [雑誌]](https://m.media-amazon.com/images/I/61-wQA+eveL._SL500_.jpg)
![Casa BRUTUS(カーサ ブルータス) 2024年 10月号[日本のBESTデザインホテル100]](https://m.media-amazon.com/images/I/31FtYkIUPEL._SL500_.jpg)
![LDK (エル・ディー・ケー) 2024年9月号 [雑誌]](https://m.media-amazon.com/images/I/51W6QgeZ2hL._SL500_.jpg)




![シービージャパン(CB JAPAN) ステンレスマグ [真空断熱 2層構造 460ml] + インナーカップ [食洗機対応 380ml] セット モカ ゴーマグカップセットM コンビニ コーヒーカップ CAFE GOMUG](https://m.media-amazon.com/images/I/31sVcj+-HCL._SL500_.jpg)



