Xの｢ニュースの見出し｣を信じてはいけない…生成AIの"まさかのウソ"に思考回路が乗っ取られるリスク

SNSのXではAIのGrokに「ファクトチェックして」と頼む人も多い。Xで4万人超のフォロワーがいるコラムニストの藤井セイラさんは「X自体がAIを使って間違った情報を発信、拡散している。それを真実だと思わないように注意が必要だ」という――。■生成AIが作る「ニュースの見出し」の落とし穴ChatGPTやGoogleのGeminiなど、生成AIの進歩がめざましい。だが一方で、弊害も目につくようになってきた。2025年10月4日の自民党総裁選でもそれを実感させられた。気をつけるべき落とし穴の一つが「生成AIによるニュース」の正確性だ。SNSのトレンド欄にはニュースやトレンドワードが表示されているが、Xでは生成AIで見出しと本文がつくられている。そして、AIはしばしば間違えるのだ。誤った数値や固有名詞が入ったり、二者が逆になったり、異なる2つの話題が混ざったりする。報道機関のニュースを確認すれば間違いに気づけるが、日々忙しく過ごす中、チラッと目にして「へえ、そうなのか」という印象だけを抱き、そのまま記憶してしまうこともあるだろう。■新外務大臣へのネット評価が、事実とは真逆に例えば、総裁選後のXのこのニュース。高市早苗新総裁、茂木敏充氏を外務大臣に起用へ（10月6日16時40分）自民党の高市早苗新総裁は、首相就任後の組閣で総裁選のライバルだった茂木敏充前幹事長を外務大臣に据える方針を固めた。（中略）X上では茂木氏の保守層から過去の外交姿勢への批判が相次いでいる。最後の「保守層から過去の外交姿勢への批判が……」はおそらく現職の岩屋毅外務大臣のことだろう。茂木氏はXでは保守層からの評価は高い。一方で、総裁選期間中、こども食堂で自身の誕生日祝いをしてもらう、スーパーにハイヤーで乗りつけるなどのパフォーマンスに「市民感覚がわかっていない」と批判が寄せられていた。AIが、次期大臣と現職への評価を混ぜて文章を生成してしまっているのだ。XはGrokというAIを採用しており、ニュースの下には「このストーリーは、Xのポストの要約であり、時間の経過とともに新しくなります。Grokは間違えることがあるため、アウトプットが事実かどうかを確認してください」という注意書きがある。人間のようにニュースを「読んで、話をまとめている」のではなく、「リアルタイムでその瞬間に多数言及されているトピックを、組み合わせてテキストを生成している」のだ。だが「間違えることがある」という注意書きはグレーの小さな文字で、目立たない。もう1例、見てみよう。高市早苗氏、自民党総裁選勝利でスパイ防止法制定へ（10月7日8時）（中略）高市氏の公約の目玉であるスパイ防止法の制定が注目を集め、日本が先進国で唯一包括的な同法を持たない中、賛成派は国家安全保障の強化を主張する一方、反対派は市民弾圧の懸念を指摘している。■中身不明のスパイ防止法がいつのまに成立間近見出しだけを見ると、あたかも「スパイ防止法」という法律が通過間近であるかのように感じさせるニュースだが、事実は異なる。スパイ防止法は、そもそも40年も前、昭和の終わりに国会に提出され、廃案になったきりの法案だ。それを2025年7月、参政党が参院選選挙期間中に持ち出してきて「日本人ファースト」のキャッチフレーズとともに必要だ、と訴えたのだ。高市早苗氏は総裁選期間中から参政党との連携を示唆しており、その流れでスパイ防止法の制定構想も語っていた。しかし、そもそも法案の条文すら不明な以上は、「制定へ」という見出しも、「日本が先進国で唯一包括的な同法を持たない」も不正確である。だが、Xのトップページには「本日のニュース 高市早苗氏、自民党総裁選勝利でスパイ防止法制定へ」というテキストが10月6日の昼間から24時間近く出続けていた。これでは「新内閣でスパイ防止法ができる」「スパイ防止法がないのは日本だけ。ならば必要だ」と誤解する人も出るだろう。一種の世論誘導につながらないかと思うが、生成しているのはAIだ。誰が責任を取るというのだろう。■「クチコミ×AI」でさらにデマが発生しやすく？ご存知のように、もともとネットには「デマが拡大しやすい」「一度広がった情報が取り消せない」というリスクがある。昨今、SNSのプラットフォームに生成AIが導入され、そのリスクはますます高くなったのかもしれない。人間の「クチコミ」と「AI」が組み合わさって、例えば自動でファクトチェックが行われるなど、より正確性が担保されたり、情報の取捨選択がラクになるのならばいいが、現時点ではむしろ逆の出来事が進んでいるようだ。SNS上にはすでに人間のように振る舞う「Bot」といわれる自動投稿アカウントがあふれている。そして人間とBotが投稿したテキストを学習して、プラットフォームのAIがリアルタイムでニュース原稿を産出し、それがトップページに表示される。ユーザーは「そうなのか！」と当然それが事実だと思い込み、投稿し、さらに誤解が広がる――デマ拡大のスピードが一層上がってはいないか。■人間の意図的な「切り取り」を、AIが加速そこに人間の悪意や誤解が入り込むとさらに厄介(やっかい)だ。先日、このような出来事があった。2026年3月のNHK「虎に翼」スピンオフ放送が発表されたばかりの脚本家・吉田恵里香氏は、アニメ脚本も複数手がけている。ところが9月下旬、「アニメ・ファンタジスタ・ジャパン」というイベントでの彼女の講演を基にした記事から、発言の一部だけが切り取られ、Xのトレンド欄のニュースに載った。最初の火種となった投稿群は、記事から都合のよいワードだけをチェリーピッキングしており、当初は「炎上」より「放火」に近い出来事に見えた。『ぼっち・ざ・ろっく！』脚本家・吉田恵里香氏、原作描写を「ノイズ」と発言でX炎上これは、元の講演録を読めば不正確だとわかる内容だ。だが、生成AIのつくった見出しを見て、多くの人が誤解にもとづいてポストしてしまい、トレンドに入りつづけた。そしてその投稿を引用して、ネットメディアで記事が書かれてしまう。2025年9月20日時点では、Googleで作品名を検索するだけで「ぼっち・ざ・ろっく脚本家の発言が物議」と出る状態になってしまっていた。SNSのトレンドはせいぜい2、3日で移り変わるが、ニュースやそこからの無断転載ブログや掲示板は残るため、今後も作品名に誤情報がまとわりついて出てくる可能性がある。これはAIと人為のあわさった一種の「情報の汚染」といってもよいかもしれない。■「セクシー田中さん」事件まで引き合いにそこから第2段階として、まるで吉田恵里香氏が原作者の意向をふみにじってアニメ化に際して改変したかのように非難する人たちが現れた。FLASHのニュースでは「『虎に翼』脚本家、人気アニメの「原作変更」発言に批判殺到…『セクシー田中さん』騒動で “改変” に募る不信」というタイトルで報じられるに至った。だが、2024年5月に報告書が出された連続ドラマ『セクシー田中さん』事件では、日本テレビが原作者の意見をドラマ制作チームや脚本家には伝えていなかったことが悲劇の元凶だとわかっている。この件とは状況が真逆だ。『ぼっち・ざ・ろっく！』では2022年のアニメ初回放送時から原作者の漫画家・はまじあき氏が、SNS上で吉田恵里香氏に感謝のメッセージを送っている。円満なアニメ化で、その後のグッズ販売や映画化にもつながった、メディア展開の成功例だ。■都議会議員が脚本家を批判する投稿もだが、さらに第3段階として、アニメのクレジットから脚本家の名前を消すように求めるネット署名まで立ち上がり、都議会議員・元議員らも吉田氏の創作姿勢をとがめるような投稿をするに至った。さすがにこの署名が多くの賛同を集めることはなかったが、議員の発言ともなると、クリエイターへの圧力となる可能性がある。ネット上の議論だけを基に現職議員が創作手法に釘を刺すのはいささか行き過ぎに見えた。吉田恵里香氏はこれまで、少数者の透明化されてきた声を可視化したい、といった趣旨の発言をしてきており、それを気に入らないと考える人が、これを機に非難したのでは、という気さえした。「放火」に近い「炎上」から生成AIがニュースをつくり出すと、なかなか鎮火できない。そして遠巻きには本当に「火事」が起こっているように見えてしまう。これは情報を得る上で気をつけなくてはいけない、新しいリスクだと筆者は考えている。■ロシアプロパガンダによる情報工作同様のことは、すでに政治や経済の領域でも起こっているのかもしれない。海外のBotによる大量投稿によって日本のSNS内での情報が撹乱されているということを、2025年7月下旬に日本のデジタル庁も認めている。また、10月6日のニュースでは、ロシアプロパガンダの活動がJICAに関する一連の誹謗中傷に影響していたことが判明している。また従来、ネット空間では自分に近い意見ばかりに接触する「エコーチェンバー現象」に注意を、といわれていたが、最近では、プラットフォームのアルゴリズムが特定の傾向を持つ内容をくりかえし見せる「フィルターバブル」の影響が強くなってきているといわれる。■アルゴリズムに操られる？ フィルターバブル例えば前出のXのニュースも、ユーザーが普段どんな投稿に「いいね」をして、何を検索し、誰と交流しているかなどによって、何が表示されるかが調整されている。インスタグラムやTikTokでも同様だ。Xのニュース欄では、同じトピックについても、ユーザーの傾向に合わせて肯定的に表現するか、否定的に表現するかをプラットフォーム側が調整しているし、表示する関連情報も変えている。このフィルターバブルを確認するために、筆者は閲覧用のXのサブアカウントを持っているが、そちらでは新政権関連のニュースとして「スパイ防止法」「公明党の連立離脱可能性」が表示されている。一方、通常使っているアカウントでは「新総裁就任で選択的夫婦別姓議論再燃」と表示されている。わたしたちはすでに、ニュースを「見ている」つもりで「見せられている」。時にはその中にAIのつくウソも混ざってくる。そのことをゆめゆめ忘れないようにして、ネットを使いこなさなくてはいけない、難しい時代に突入しているのだ。----------藤井 セイラ（ふじい・せいら）ライター・コラムニスト東京大学文学部卒業、出版大手を経てフリーに。企業広報やブランディングを行うかたわら、執筆活動を行う。芸能記事の執筆は今回が初めて。集英社のWEB「よみタイ」でDV避難エッセイ『逃げる技術！』を連載中。保有資格に、保育士、学芸員、日本語教師、幼保英検1級、小学校英語指導資格、ファイナンシャルプランナーなど。趣味は絵本の読み聞かせ、ヨガ。----------（ライター・コラムニスト 藤井 セイラ）