「何が真実なのか分からない」誰もがディープフェイクを作れるようになったSNS社会で、現代人が見極めるべき真実と虚構の「境界線」

最近のSNSでは、AIの急速な普及とあいまって、精巧なフェイク画像やフェイク動画が溢れている。一般人が簡単にフェイクを作れるようになった現代において、生身の私たちが自ら判断しなければいけないこととはいったい何か――。

 

社会情報学の専門家でもある山口真一氏の書籍『炎上で世論はつくられる――民主主義を揺るがすメカニズム』より一部を抜粋・再構成し、ディープフェイクの大衆化について考える。

誰もがディープフェイクを作れる時代に

かつてフェイク画像やフェイク動画を作るには、高度な技術や特別な機材が必要だと考えられていた。

しかし、技術の急速な進歩によって、その前提は完全に崩れ去った。今や「誰もが」数十秒でリアルな偽画像や動画を生み出せる時代になったのである。私はこれを「ディープフェイクの大衆化」と呼んでいる。

その象徴的な事例が、2022年に静岡県で発生した水害だった。SNS上に「ドローンで撮影された静岡県の水害。マジで悲惨すぎる」として3枚の写真が投稿された。広く拡散されたが、実際にはすべてAIが生成した偽画像だった。

使われたのは当時誰でも無料で利用できた生成AIサービスである。投稿者は専門の技術者ではなく、AIに詳しいわけでもない一般のネットユーザーだった。にもかかわらず、リアルな災害現場のように見える写真を簡単に生成できてしまったのである。

同様に、岸田元首相の偽動画にニュース番組風のテロップを付けて拡散された例もあった。

これも特別な知識を持たない一般人が作ったものであった。こうした現象はもはや偶発的な出来事ではなく、社会全体で「誰でもフェイクを作れる時代」が現実化していることを示している。

私自身もその現実を体感したことがある。静岡県の水害の偽画像が話題になった直後、あるテレビ番組から「実際にその場でAIを使って画像を生成してほしい」と依頼を受けた。

試しにやってみると、驚くほど容易に「それらしく見える災害写真」を作ることができた。必要なのは少しの文字入力（プロンプト）だけで、完成までにかかった時間は数十秒だった。これは専門家の特殊技術ではなく、一般の人間がごく普通に実行できる操作に過ぎない。

こうした現実を踏まえると、私たちはすでに新しい時代に突入しつつあるといえる。2016年以降、私たちはSNSを通じてフェイク情報が広がる、フェイクと共にある「withフェイク時代」を生きてきた。しかし生成AIの普及によって、フェイク情報の質も量も桁違いに膨れ上がろうとしている。私はこれを「with フェイク2.0時代」と呼んでいる。

この新しい時代において、フェイク情報は単なるSNS上の話題にとどまらない。

裁判の証拠映像や画像がAIによって捏造される可能性が現実味を帯びている。法廷で提出された証拠が「真実である」と信じられなくなれば、司法制度さえも揺るがしかねない。

つまり、ディープフェイクの大衆化は単なる技術の進歩ではない。社会の基盤である信頼を根底から侵食し、民主主義や司法の仕組みに直接的な影響を与える脅威である。私たちは今、歴史的に「with フェイク2.0時代」という新しい段階に足を踏み入れてしまったのだ。

誰も「真実」を信じない

AIによる偽画像や偽映像が社会にあふれると、私たちは目の前にある映像や写真を見ても素直に信じられなくなる。「これは本物なのか、それともAIが作ったものなのか」と疑ってかかるしかない状況が生まれてしまうのだ。実際、すでにそうした社会へと移行しつつある。

問題はそれだけではない。事実であるものを「これはAIが作った偽物だ」と言い張ることも可能になってしまった。これは噓つきが得をするという意味の「噓つきの配当」と呼ばれる現象だ。つまり、AIによるフェイクの存在を逆手にとって、都合の悪い事実をもフェイク扱いにしてしまうことである。

事例として、2023年にイーロン・マスク氏が法廷で直面したケースがある。

彼の発言を録音した音声が裁判の証拠として提出された際、マスク氏は「これはディープフェイクだ」と反論した。しかし後の調査で、それは本物の音声だったことが確認されている。

普通であれば誤った反論をした側が不利になるはずだが、ここで注目すべきは「ディープフェイクだ」と主張すること自体にはリスクがほとんどない、という点である。結局、「勘違いだった」で済ませることができてしまうのだ。

しかも、人々の受け止め方はさらに複雑だ。ある人物を強く支持している人にとっては、「これはディープフェイクだ」という本人の主張の方が真実として受け止められる。

後になって「本物だった」と訂正情報が出ても、それが支持者に届かなければ、誤った理解がそのまま固定化されてしまう。つまり「フェイクの氾濫」と「噓つきの配当」が組み合わさることで、事実と虚構の境界がますますあいまいになってしまうのである。

この現象は民主主義にとって致命的なリスクを孕んでいる。選挙戦の最中に不利な証拠映像や音声が出てきた場合、候補者は「これはディープフェイクだ」と言い張ればよい。仮にそれが事実であったとしても、一定の支持層は「やはり自分の支持する人が正しい」と信じ込み、その後の訂正や検証を受け入れない。結果として、真実が暴かれても人々の意識を変えることが難しくなる。

そもそも真実が暴かれるのは選挙戦後かもしれない。

つまり、AIによるフェイクの拡大は二重の意味で危険だ。第一に、大量のフェイクの中で本物を見抜くことが難しくなること。第二に、事実であっても「フェイクだ」と言い逃れる余地が常に存在してしまうこと。この「噓つきの配当」は、フェイクを仕掛ける側だけでなく、事実を突きつけられた側にも強力な武器を与えてしまう。

私たちは今や、映像や音声といった「動かぬ証拠」さえ動かされてしまう時代に生きている。これまで以上に検証を重ねる姿勢が求められる一方で、人々の心が一度「これはフェイクだ」と思い込んでしまえば、その思い込みを解くことは極めて難しい。

AIが虚構の世論を作り出す

かつて「世論工作」といえば、国家の諜報機関や一部の専門集団が行うものだと考えられていた。しかし生成AIの登場によって、その前提は根底から覆りつつある。今や、誰でも簡単に、しかも大規模に世論工作を仕掛けることが可能になってしまったのだ。

ある国の組織が実際に行った事例は、その典型だ。まず数万件もの偽の顔写真を生成し、それを使って「存在しない人々」のアバターを作成する。そこにSNSアカウントを与え、さらに生成AIで作った政治的に偏った言説を現地の言葉で大量に投稿させる。

AIは多言語対応が可能であるため、どの国を対象にしても「その国の人が自然に書いた」ような文章を大量に生み出すことができる。

もし日本のX上で、数万人が同じ方向に偏った発言を一斉に繰り返せば、それだけでトレンドに浮上し、あたかも大きな世論が存在するかのような錯覚を生み出すだろう。これを目にした一般のユーザーは「こういう出来事が本当にあったのだ」と受け止め、無意識のうちに世論が誘導されていくのである。

この仕組みはすでに現実化している。報道によれば、一部地域でこの組織の世論工作が実際に行われていた。

背景にはビジネスの存在がある。例えば、ある政府関係者から資金を受け取り、特定の政治的立場に有利な言説を拡散することを「仕事」として請け負う組織が確認されているのだ。つまり、世論操作は国家間の謀略活動にとどまらず、資金さえあれば誰でも発注できる「サービス」と化しつつあるのだ。

ここで重要なのは、「報道されている事例は氷山の一角に過ぎない」という点である。公になったものですら数万単位の偽アカウントが使われているのだから、実際には表に出ていない活動が無数に存在すると考える方が自然だろう。

SNSのアルゴリズムは「話題の大きさ」を可視化する仕組みを持つが、その「大きさ」自体が捏造されている可能性がある。私たちが日常的に目にしているトレンドが、実はAIが自動生成した虚構の集合体であるとしたらどうだろうか。

私たちは、自分の意思で拡散しているつもりでも、その背景にはAIが生み出した虚構の世論があるかもしれない。「みんなが怒っている」「多くの人が賛同している」と感じるとき、その「多くの人」が実在しない可能性があるのだ。こうした仕組みがすでにビジネス化しているという現実は、民主主義にとって深刻な脅威である。

世論工作の大衆化とは、特殊な組織や国家だけでなく、資金とAIを持つ者なら誰でも世論を操作できる時代が到来したということだ。つまり、「自然な大衆の声」だけでなく、「作られた大衆」が紛れ込んでいる。私たちは今、そうした虚構と現実が入り混じる情報空間の中で意思決定を迫られているのである。

炎上で世論はつくられる――民主主義を揺るがすメカニズム

山口真一 2026/1/8990円（税込）208ページISBN： 978-4480077233

炎上・フェイク・陰謀論──
「ネットの問題」がリアルな政治を脅かし始めた
いま最も必要な知識を、第一人者が伝授する
なぜ「あの人」に
熱狂してしまうのか？

＊ 与党を叩けばフォロワーが増えるのはなぜか？
＊「政策の中身」＜「言葉の強さ」という本末転倒
＊「炎上」には熱狂する少数しかいない
＊ 日本は「ディープフェイク」に騙されやすい
＊「表現の自由」と「ネット規制」のジレンマ
＊ 怒りや憎悪は、他の感情よりも広まりやすい
＊ 政治や社会への不信が拡散され「陰謀論」が生まれる
＊ インターネットの情報化時代は200年続く
ネット社会を生き延びるための知識が満載！

刹那的な感情を煽る「ネット炎上」、真偽不明の「フェイク情報／陰謀論」の拡散は以前から問題視されてきたが、今や政治の世界を覆い、選挙結果を左右するまでになった。米大統領選から参院選まで、注目を集めることに最適化した極端な主張を持つ候補者が支持を得た。既存の政治を破壊するネットの論理とメカニズムとは何か。今後ますますスタンダードになるであろうSNSの暴力と、私たちはいかに対峙すべきか。近年、急激に進む政治とネットの融合を、若き第一人者が問い直す。

＝＝＝
【目次より】
はじめに──SNSが選挙を動かす時代

第1章　SNSが選挙を変えた年──2024年の衝撃

第2章　炎上のメカニズム──「言葉の刃」としてのSNS

第3章　フェイク──民主主義を揺るがす誤情報

第4章　規制で解決できるのか？──情報流通の社会的枠組みを問い直す

第5章　人類総メディア時代をどう生きるか？──未来への提言

あとがきにかえて──情報社会の未来を生きる私たちへ