生成AIプロパガンダ、 人類滅亡リターンズ......今年、世間を騒がすフェイク情報はこれだ!!

昨年は財務省解体デモ、参議院選挙などでフェイク情報の流布が大きな問題になった。

＊　＊　＊

SNSを中心にフェイク情報が飛び交った昨年。時に実生活にも悪影響を及ぼす怪しい情報に、われわれはどう立ち向かうべきなのか。今年話題になりそうなフェイク情報やデマと、それらに対処するために持っておきたい心構えについて解説する。

まず、昨年は何が話題になったのか。陰謀論やスピリチュアルビジネスに詳しい、ライターの黒猫ドラネコ氏は次のように振り返る。

「まずは、昨年盛り上がった〝財務省解体デモ〟。これは『自分たちが困窮しているのはすべて財務省のせいだ』という荒唐無稽な主張を繰り返すトンデモ〝デモ〟でした。センセーショナルな部分を切り抜いたショート動画などに扇動されてしまった人が多かった印象です」

また、昨年は〝排外主義〟の機運が異様な高まりを見せた一年だったという。

「排外主義的な陰謀論やデマが急速に広まったことにも、社会不安が大きく影響していると思います。『生活が苦しいのは全部外国人のせいだ』と思い込み、出所の怪しい情報をも信じてしまう。厄介なのは、そういった人々の憎悪をあおるネタで数字が取れるとわかったインフルエンサーやYouTuberらの便乗です。

それまでは見向きもされなかったようなデマでも、影響力のある人たちが拡散することにより、日本中が『もしかしたらありえるのかも......』という空気にのまれてしまいました」

では、今年はどんなフェイク情報に気をつけたらいい？　東京大学大学院工学系研究科の教授で、デジタル空間における情報拡散に詳しい鳥海不二夫氏は次のように語る。

「今年はW杯が開催されます。それにかこつけて『特定の国のサポーターが暴れた』とか、『負けた腹いせにこんなひどいことをした』などといったデマが出てくるかも。昔から悪質なフェイク画像がこのようなデマに使われてきましたが、最近は生成AIで精巧な動画も簡単に作ることができる。

最新の動画生成ツールのSora 2なんて、ほとんど本物と見分けがつきませんよね。テクノロジーの進化は素晴らしいことですし、クリエーティブの観点で見たらすごい技術であることは間違いない。しかし、一部のアイデアマンがなんらかの意図を持ち、技術を悪用することは問題です」

AIの進化は画像や動画の生成だけにとどまらない。

「AI言語翻訳も格段に精度が高まっています。国外の勢力が、日本人が書いたものとそう変わらないレベルの日本語の文章を用いて、〝プロパガンダ攻撃〟を仕掛けてくる可能性も十分にありうる。特定の国や勢力にとって都合のいい情報とは慎重に向き合うべきでしょう」

昨年はロシア製BOTがSNSに石破政権を批判する投稿を大量にしていたことが問題に。日中関係も悪化する中、海外から特定の勢力や人物をおとしめるために行なわれる情報攻撃に気をつけたい。

こうした国外の勢力による仕掛けと思われるものも含め、政治関係デマが多く流布。実際の政局に影響を及ぼすケースもあった。

「今年は衆院解散・総選挙があるかもしれません。残念なことですが、昨今は排外主義的なことを言えば票が伸びる傾向にあります。人気を得るために過激な主張をする候補者や、それを拡散する支持者には注意が必要です」

また、政治の〝推し活化〟に対する懸念も。

高市首相が使用するバッグを、若い女性が推し活の一環で使っているとか。応援はいいが妄信するのは危険だ

「最近、高市早苗首相の服装や持ち物をまねして応援する、〝サナ活〟という言葉を目にするようになりました。

総理大臣への応援は決して悪いことではありませんが、そもそも政権や総理大臣は批判されてなんぼの存在。公権力に熱狂的なファンがつき、『みんなでオールドメディアや左翼から高市さんを守ろう』というムーブが一部で高まりつつあることに不安を覚えます。

そもそも〝サナ活ブーム〟に実体があるのかはわかりませんが、特定の政治家を妄信するのは危険です」

政治家を応援するムードが過剰になると、時に誤った情報を有権者に流すために利用されることも。昨年の自民党総裁選では小泉進次郎氏のニコニコ動画でのステマ騒動があったが、高市首相を応援する流れにも注意が必要だ。

さらに、昨年日本中を騒がせた〝7月5日大災難予言〟の、2026年版の拡散には要注意だと黒猫ドラネコ氏は言う。

『私が見た未来　完全版』はネットでの話題が後押しして累計発行部数100万部を突破。社会現象となった

「昨年話題になった、たつき諒著『私が見た未来　完全版』による予言。結局何も起きなかったワケですが、今、実は〝26年に人類滅亡〟という予言が一部でまことしやかにもてはやされています。

滅亡の原因は第3次世界大戦の勃発や、感染症の世界的流行、天災などさまざまなパターンがあります。ある程度上の世代は『ノストラダムスの大予言』で耐性がついていますが、若い人たちは案外簡単に信じてしまうようなので、改めて注意が必要です。

昨年の夏は、予言のせいでインバウンドにまで影響が出てしまいました。本来は責任ある立場の大人が歯止めをかけるべきでしたが、予言に乗じて利益を得ようとする配信者や出版社などが拡散に加担。タチが悪いなと思います。

こういった予言の類いは、毎年のように誰かしらが似たようなことを言うので、真に受けないようにしましょう」

怪しい情報や偏った思想から距離を置くためにはどうすればいいのか。前出の鳥海氏は、食事の栄養バランスを例に挙げて次のように語る。

「日頃の食生活において、栄養を考えずおいしそうなものばかりを食べていると、自分の健康を害する恐れがありますよね。同じように自分にとって都合のいい情報ばかりを摂取していると、正しい情報を得る機会を失い、健全な判断を妨げてしまう可能性があります。

『自分はハイカロリーな情報ばかり取り入れていないだろうか？』と立ち止まり、時にはあまり好ましく思わない情報もバランスよく見ることが大切です」

極端な意見や情報はうのみにせず、多角的な視点から検討するよう心がけよう。

取材・文／渡辺ありさ（かくしごと）　写真／時事通信社　ロイター／アフロ