米大統領選でも暗躍! 生成AI導入で急増する「偽装ニュースサ...の画像はこちら >>

「フェイクニュース」という言葉もなんだか聞き慣れてきてしまった今日この頃。しかしアメリカでは大統領選挙を控えて、生成AIを悪用したフェイクのニュースサイトが急増しているとのこと。

誰がどのような目的でつくっているのか? 日本も無関係ではいられない、"情報汚染"の闇に迫る!

■広告収入目的のコンテンツファーム

AI技術の進化がすさまじい近年。

OpenAIの「チャットGPT」や、マイクロソフトの「コパイロット」などの生成AIは、利用者がキーボード入力で指示するだけで、インターネットを検索したり、ファイルを参照したりして、人が書いたものと見分けがつかないレベルの文章を生み出してくれる。

そして、技術が進歩すれば、当然それを悪用しようとする者たちも現れる。

「主要メディアのコンテンツなどを盗用したり、改変したりする広告収入目的の偽装サイト『コンテンツファーム』の数がアメリカなどで急増しています」と語るのは、桜美林大学教授でジャーナリストの平和博氏だ。

「こうしたサイトは従来、いわゆるSEOライティング(検索で上位表示を狙う執筆テクニック)を基に人間が文章を作成していました。そのため作成には一定のコストや時間が必要でした。

しかしAIなら簡単に、既存のコンテンツを要約・改変し、さらに海外の情報も翻訳して取り込むことができます。

こうした機能を使って大量の原稿を生成し、自動的に公開させることも可能。

人間に比べて圧倒的に低コストで、極めて短時間でコンテンツを作成できます。また、SEO対策としても、記事公開時点で"バズっているキーワード"に対応するページの作成も可能です。

全米広告主協会の調査では、自動配信される広告のインプレッション(閲覧)の約21%が、コンテンツファームの一種である『広告収入目的サイト(MFA)』だと報告されています」

米大統領選でも暗躍! 生成AI導入で急増する「偽装ニュースサイト」の闇
ジャーナリスト・平 和博氏

ジャーナリスト・平 和博氏

さらに驚くべきことに、こうしたAIによるウェブサイトの生成と公開は、経済的な利益を狙う者以外からも注目を集め、大規模に行なわれているというのだ。

「それはニュースサイトに偽装して政治的主張をPRする『ピンクスライム』です」

■政治色の強いピンクスライム

ピンクスライムとは、そもそも「牛肉を切り分ける際に出るくず肉を加工、殺菌して作られる食肉の増量剤」のことだった。しかし、現在では「政治的主張をPRするため、地域の新聞であるローカル紙を偽装したサイト」として知られているという。

「アメリカでは4年に1度の大統領選挙に向け、さまざまな政治的主張が交わされます。

21世紀の情報伝達手段の主役となったインターネットは、大統領選挙に向けた主張の場として欠かせないものとなっています。

そして、信頼できるローカルニュースのように見せかけて、自陣に有利な主張を広めるピンクスライムがはびこるようになったわけです」

米大統領選でも暗躍! 生成AI導入で急増する「偽装ニュースサイト」の闇
ピンクスライムと見なされる『West Cook News』の記事。イリノイ州の高校で「人種に基づく成績評価システムを実行される」という見出しだが、AP通信などによると、事実無根と判明した。本文には「黒人学生は素行不良などが減点の対象にはならなくなる」といった、人種差別をあおる内容も

ピンクスライムと見なされる『West Cook News』の記事。イリノイ州の高校で「人種に基づく成績評価システムを実行される」という見出しだが、AP通信などによると、事実無根と判明した。本文には「黒人学生は素行不良などが減点の対象にはならなくなる」といった、人種差別をあおる内容も

ピンクスライムはなぜローカル紙を偽装するのか?

「アメリカでは、日本の五大紙のような全国を網羅する新聞のシェアはそれほど大きくありません。逆に地域のローカル紙が人々の情報源で、高い信頼を集めてきた歴史があります。

アメリカには州が50ありますが、その州の下に約3100の『郡』があり、これが『市』と共に、地域の行政を担っています。

そうした郡や市などのレベルで、ローカル紙が地域の情報を提供する重要な役割を担っているのです。

ところがインターネットが情報伝達の主役になって以降、ローカル紙は部数減による経営難に陥り、廃刊が相次ぎました。現在ではすでに200ほどの郡が"ニュース砂漠"と呼ばれるローカル紙消滅地域です。

そこに入れ替わるように浸透したのが、"ネット版のローカル紙"に見せかけたピンクスライムです。ローカル紙のような体裁で、地域住民が持つ信頼性にただ乗りしているんです」

ピンクスライムという呼び名が登場したのは、2012年だったという。

「ブライアン・ティンポーン氏という保守派の実業家が運営していたメディア企業が、フィリピンや東欧などのライターに低賃金で記事を外注し、ローカル紙に配信していたのですが、署名の偽造や記事盗用が発覚しました。

そのライターのひとりが『自分の仕事は、肉を増量するピンクスライムのようなもの』と表現したことがきっかけです」

■AIライターによるネットワークの急拡大

「ピンクスライムが大きな注目を集めたのは、20年の大統領選挙の前年、19年でした。保守派の資金をバックに、保守的な主張を伝えるメディアネットワークとして急拡大しました。

いずれもローカル紙のウェブ版を偽装した体裁で、メディア名に地域名を取り込んでいることなどが特徴でした。ピンクスライムの実態を報じてきた『コロンビア・ジャーナリズム・レビュー』誌によると、19年には450件程度だったのが、大統領選挙の20年には1200件ほどに拡大していました」

閲覧者の多くは、こうしたピンクスライムを自分の住む地域のウェブ版ローカル紙と誤認し、その政治的主張を受け取ったことになる。

「このときもすでにAIによる記事の自動作成が導入されていたようです。ピンクスライムの制作は、低賃金のライターからAIに置き換わっていったのです」

そして今年、大統領選挙を11月に控え、ピンクスライムの数は、ローカル紙の廃刊とは対照的に急増しているという。

「サイト評価会社『ニュースガード』によると、全米のピンクスライムは約1200で、現存するローカル紙のサイト数とほぼ同数です。

その運営の中心人物とされるのが前述のティンポーン氏です。同氏を中心に複雑につながったピンクスライムのネットワークは、全米各地に広がり続けています。

こうした保守派のピンクスライムへの対抗策として、リベラル派も同様のメディアネットワークを立ち上げています。大統領選挙本番に向け、両陣営の情報戦はさらに過熱していくでしょうね」

米大統領選でも暗躍! 生成AI導入で急増する「偽装ニュースサイト」の闇
ピンクスライムと見なされる『Chicago City Wire』の記事。「シカゴで性的労働を合法化すべきかどうかについてのパネルフォーラムが開催される」という事実を報じているが、タイトルには「売春婦ども(Hookers)」という差別的な単語が使われており、本文内には同性愛者などへの差別をほのめかす文章も見られる

ピンクスライムと見なされる『Chicago City Wire』の記事。「シカゴで性的労働を合法化すべきかどうかについてのパネルフォーラムが開催される」という事実を報じているが、タイトルには「売春婦ども(Hookers)」という差別的な単語が使われており、本文内には同性愛者などへの差別をほのめかす文章も見られる

ピンクスライムのような、自動化された低品質の偽装ニュースサイトは、米国以外でも確認されているという。

「『ニュースガード』の調査では、AIで生成されたとみられる低品質サイトは、16言語、840件に上るといいます。

記事の一部に『AI言語モデルとして、このプロンプト(記事作成の指示)を完了できません』といった、生成AI特有のエラーメッセージがそのまま転載されていることなどが、AI生成記事発見の手掛かりになります。

AIに『どういう内容の記事を何文字くらいで』と指示を出し、以降は自動で記事がアップロードされるような仕組みのため、そうしたエラーメッセージもそのまま掲載されてしまうようです」

■日本にも侵入する偽装サイト

では日本は、こうした米大統領選挙を巡るピンクスライムの増殖を「対岸の火事」と考えていていいのだろうか。

「日本にも、AIによるフェイクサイトの脅威がもたらされています。それは外国勢力による『影響工作』の一環とみられる動きです」

平氏によると、すでに実例が出ているという。

「23年8月にハワイ・オアフ島で発生した大規模な山火事について、『米国の気象兵器によるもの』とする陰謀論が各言語で拡散されました。中国発の影響工作ネットワーク『スパモフラージュ』によるものとみられています。

このとき、日本のブログサイトでも、日本語やラテン語などで同じ内容の文面が投稿されていました。AIによる自動翻訳のようでした。

ただ、AIによる記事の生成、翻訳は人間レベルに近づいていることから、これまでは『日本語のおかしさ』などから判断できたフェイクニュースも、なかなか見分けがつきにくくなっています。

また、カナダのトロント大学の調査では『ペーパーウオール』と呼ばれる、やはり中国発とみられるネットワークが、『銀座新聞』『福岡新聞』など、日本のメディアを偽装するサイトを開設したことも確認されています。

外国勢力がAIを使って日本のメディアを偽装したサイトをつくり、国内の情報を操作する可能性が現実味を帯びています」

米大統領選でも暗躍! 生成AI導入で急増する「偽装ニュースサイト」の闇
日本語の偽装ニュースサイトである『銀座新聞』。ロゴをよく見ると「GINAZ DAILY」と誤記されている。閲覧・拡散は非推奨!

日本語の偽装ニュースサイトである『銀座新聞』。ロゴをよく見ると「GINAZ DAILY」と誤記されている。閲覧・拡散は非推奨!

米大統領選でも暗躍! 生成AI導入で急増する「偽装ニュースサイト」の闇
ロゴに「GINAZ DAILY」と誤記されている

ロゴに「GINAZ DAILY」と誤記されている

平氏は、偽装サイトがSNSなどで拡散されれば、世論操作につながる危険性もあると指摘する。どのような対応が求められるだろうか。

「偽情報・誤情報などのフェイクニュースや詐欺広告が氾濫している現状を見ても、SNSなどのプラットフォーム企業が、違法・有害コンテンツに十分な対策を取れていないことは明らかです。各社の利用規約に反するコンテンツについては、しっかり対応することが求められます。

また、SNSの利用者のリテラシー向上も急務です。フェイクニュースを共有すれば、その拡散に加担することになります。それが他人の権利を侵害する内容なら、法的責任を問われる可能性もあります。情報を扱うということのリスクを認識すべきでしょう」

急激に進化するAIが悪用され、インターネット上の"情報汚染"は加速している。偽情報・誤情報やフェイクニュースに踊らされないよう、注意を怠ってはならない。

●平 和博(たいら・かずひろ)
桜美林大学リベラルアーツ学群教授(メディア・ジャーナリズム)。早稲田大学卒業後、朝日新聞入社。社会部、シリコンバレー駐在、科学グループデスク、編集委員、IT専門記者(デジタルウオッチャー)を担当。2019年4月から現職。著書に『悪のAI論 あなたはここまで支配されている』(朝日新書)、『チャットGPT vs. 人類』(文春新書)など

取材・文/植村祐介 イラスト/ぱいせん