スマホを開けば、リールやショート動画が次々に流れてくる。膨大な数の動画の中に、最近はAI生成によるフェイク動画が増えている。
実際のニュースに混じり込み「本物らしく見える」フェイク映像に騙されたことがある人はどんどん増えている。
こうした本物そっくりの映像は、災害時に誤解を生み、避難や救助の判断を誤らせることがあるので非常に危険だ。
カリブ海を襲ったハリケーン「メリッサ」に関する動画がSNSに溢れる中、プールや街を泳ぐサメのフェイク映像が本物として拡散され、注意喚起が促されている。
ハリケーンの襲来に合わせて投稿されたフェイク動画
2025年10月、カテゴリー5のハリケーン「メリッサ」がカリブ海を襲った。ハイチでは死者25人、行方不明者18人の被害が出、ジャマイカでも死傷者が出るなど大きな爪跡を残した。
メリッサが猛威を振るっている最中、インターネット界隈ではハリケーンにによる被害を写した動画がたくさん投稿されていた。
スマホからすぐに動画や写真をネットに投稿できるのが当たり前となった今日、そこにはAIが生成したフェイク動画がたくさん混ざっていたのだ。
たとえばXに投稿されたこの動画は、暴風に見舞われたホテルの窓からプールを写している。
撮影者らしき女性が、ここはジャマイカであり、水が押し寄せてきてプールにサメがいると実況している。
だが、この映像はAIが作ったフェイクである。ぱっと見リアルに見えるかもしれないが、よく見るとサメの形がおかしいし、水の動きも不自然。
さらにヤシの葉がハリケーンの猛烈な風でちぎれそうなほどなびいているのに、幹の方はまっすぐに立っているのだ。
次はこちらのTikTokの動画だ。
さらに下の映像を見てもらおう。これは飛んでいる旅客機の窓から、ハリケーンの「目」を写したものとされ、キャプションにはこう書かれている。
下にある渦巻く雲がただの雲ではないと気づいた瞬間。ハリケーンだ
生成AIによる情報汚染が激化
こういったフェイク動画は、AIが一から生成したもののほかに、過去の災害の映像を加工したものや、別々のハリケーンの映像を切り貼りしたものも多いという。
良心的な投稿の中には、生成ツールの「Sora」や「VEO」などの透かしを入れてAIによる生成であることを明確にしたものもある。
だがそれはごく少数で、大半は本物のふりをして投稿された動画だ。中には透かしの入った動画を再利用し、ぼかしやトリミングを入れたものもある。
視聴者はホンモノのハリケーンによる被害映像だと誤解し、善意からフェイク動画を拡散して、パニックを広げてしまうことにもなりかねない。
AIによるフェイク動画が急速に増えている背景には、動画生成AIが手軽に使えるようになったことが挙げられる。
AI動画なら、実写やアニメーションを作るような手間もコストもかからない。経験だってほとんど不要だ。プロンプトだって生成AIに書かせればいいのだから。
そして今回のようなインパクトの大きい災害の映像は、視聴者の関心が大きく、再生数を稼ぎやすい。再生数が増えれば広告収入やフォロワーも増える。
正しい情報が届かなくなる危険性、ジャマイカ政府が警告
問題は、こうしたフェイク動画が、ただの「冗談」では済まなくなる可能性があることだ。
リールやショート動画を流し見していると、本当のニュース映像とフェイク動画が混ざって次々に再生されてしまう。
災害時に誤った情報が拡散されてしまうと、救援要請や避難情報の伝達を妨げてしまうリスクもあるのだ。
フェイク動画を信じたために逃げ遅れたり、危険な場所に近づいてしまったりといった、命にかかわる事態にもなりかねない。
今回、ジャマイカ政府の情報担当大臣は「フェイク動画の反乱によって、市民が正しい傾向を無視してしまう危険がある」とコメントしている。
また、国際援助団体も「どの映像が現実で、どれがAIか」を検証するために時間を割かねばならず、初動の遅れにつながったとしている。
自然災害の多い日本人にとっては、決して他人ごとではない。もし大地震が起こったとき、フェイク動画で偽の情報が拡散された結果、多くの人の命が失われてしまうかもしれないのだ。
規制や法整備が追い付かない現状にどう対処するか
生成AIの進化は、我々の想定をはるかに超えるスピードで進んでいる。法整備もルールの整備も追いつかず、結局は私たち一人ひとりの良心と判断力に頼るしかないのが現状だ。
ネットの世界には国境がなく、「日本の常識」や「空気を読むスキル」は通用しない。
今はまだ、生成AIには特有の不自然さがあり、気をつけてみればフェイクであることが読み取れる。だがこれも時間の問題で、数年後にはAIは完璧な映像を創り出してくるだろう。
今回のメリッサに関するフェイク動画の拡散を受けて、TikTokはすぐにAI生成による動画の多くを削除したと言われている。
だが、多くの動画は引き続き公開されており、さらに転載や切り抜きといった形で拡散され続けているのが現状だ。
AI研究者のヘンリー・アジダー氏によると、彼がこれまでに見たハリケーン関連のフェイク動画の多くは、政治的な意図を持つものではないという。
より伝統的な「クリック数稼ぎ」のコンテンツに非常に近いもので、つまりエンゲージメントとクリック数を獲得することが目的なんです
X（旧Twitter）では、投稿のエンゲージメント数に応じて収益を得られる仕組みがあるし、YouTubeでも再生数に応じて広告収入が入るようになっている。
また、SNSアカウントの中には、こうしたフェイク動画を利用してフォロワーを増やし、後に自分の商品やサービスを宣伝する狙いのものもあるという。
では、我々はどうやって、偽の情報から身を守ったらよいのだろうか。アジダー氏は次のようにアドバイスしている。
動画を投稿しているのが誰なのかを確認しましょう。もしそのアカウントの履歴に、クリックベイト（釣り）目的のコンテンツがある場合は疑った方がいいでしょう。
ただし、フェイク動画の制作者のすべてが、それを隠そうとしているわけではありません。中には単にAIで人々の関心を引きたいだけの人もいるのです
生成AIの進化はもう止まらない。今後はテクノロジーへの規制や法整備を待つだけでなく、私たち一人ひとりのリテラシーが問われることになるだろう。
だからこそ、我々も「見極める力」を進化させていかなければならない。それはこのデジタル時代における、新しい防災の形なのかもしれない。
References: PBS［https://www.pbs.org/newshour/world/phony-ai-videos-of-hurricane-melissa-flood-social-media］
