ロシアの情報工作が日本のSNSを支配している…参院選前に自民党閣僚の悪質なデマがバズっている恐ろしい背景

■日本の民主主義を脅かす情報工作にロシアの影「認知戦」と呼ばれる、私たちの頭の中をめぐるネットでの工作が、日本の民主主義を脅かす形で繰り広げられています。7月2日の日本経済新聞では、ロシアによる情報工作の影が日本で広がってきたことを伝えています。ロシア当局の思惑に沿ったプロパガンダや偽情報を発信しているメディアの日本語アカウントが拡散しているということでした。（「ロシア情報工作、日本に影 政府系メディア、X拡散数3倍超 ウクライナ侵略で偽情報」）現在、7月20日投開票日の参議院選挙真っ最中に、大規模な情報工作が日本のSNS空間で激化してきていますが、いま、日本のネット空間では偽情報や印象操作で社会を不安定化させようというロシアなどの工作が強まっているのです。■「小泉農相に隠し子」という「デマ」が大バズり主戦場となっているのは、私たちが日常的に利用するTwitter（X）、TikTok、YouTubeショート、Instagramといった主要SNSプラットフォームです。ここに、石破茂総理大臣や岩屋毅外務大臣をはじめとする政権要人に対する偽情報や印象操作の投稿や動画に大量のいいねと初期アクセスが集まり、SNSプラットフォームのおすすめに掲載されることで拡散されているわけです。もちろん、その大多数はフェイクニュースや印象操作によるものです。例えば、6月にはTikTok発で「農林水産大臣の小泉進次郎さんにはスイスで双子の隠し子がいる」という偽情報の動画が410万回再生という途方もないバズり方をしました。このほか、林芳正さんのハニートラップ、岩屋毅さんの中国スパイ説、反ワクチン言説などがあります。いずれも荒唐無稽なガセネタですが、しょうもない零細アカウントからでもハッシュタグをつけて偽情報が流れると、高評価・いいね万超えの大バズり動画が出現します。もちろん、そこにはカラクリがあります。「その話だけ切り取られたら、誰もが怒る」ように作成された偽情報や印象操作に触れた多くの日本人が、その当事者である政府や要人に対して強い怒りを抱き、さらに批判や罵声を連鎖させますますネット上でバズるという、「不安定工作」の仕掛けが見てとれるのです。■実際の岩屋外相は「親中派」とはほど遠い例えば、ネットでよく流れているガセネタに「外務大臣の岩屋毅はスパイ防止法に反対だから中国のスパイだ」という定番がありますが、保守派の多くはスパイ防止法の導入に賛成ですから岩屋毅さんに媚中批判が集まります。しかしながら、実際にはセキュリティクリアランス法や能動的サイバー防御法など周辺法規が成立し、個人情報保護法などの改正が控えているところでスパイ防止法だけを先行させられないので「慎重である」と岩屋毅さんは外相として述べたまでであって、むしろ、中国の日本EEZ内ブイ撤去や中国海警局による領空侵犯、尖閣諸島領海侵入ではかなり強い抗議をしています。その点では、親中派とはほど遠い態度であり、同じく親中批判をされてきた前総理・岸田文雄さんも同様に対中国強硬派なのが実際です。■実態を伴わない「ネット世論」の背景にあるものそれでも、中国に対して弱腰であるという実態を伴わないネット世論は根強く、YoutubeやSNSで勇ましい反中国の言論をするとネットの視聴者が多く集まることから、排外主義的な動きと簡単にフェイクニュースや印象操作が結びついてしまうことになります。政府や閣僚の信用を失墜させる目的で多くのネットユーザーに偽情報や印象操作の情報を流通させようとする情報工作の背後には、アメリカで報じられている事例と同様に、日本に対しても複数のロシア系企業やハッキングコミュニティなどが関係していると見られています。彼らは人間の認知を誤認させる心理トリック（ダークパターン）として「レイジベイティング」や「クリックベイト」という巧妙な心理操作手法を駆使し、人々の感情を意図的に煽り立てています。■ネットで容赦なく行われる「情報工作」「レイジベイティング」とは、人々の怒りを意図的に引き出すコンテンツを作成・拡散する手法です。古くから、マスコミが政府関係者の発言を切り取りで悪意のあるように報じ、それを見た国民が一斉にブチ切れるといった大衆操作が一般的でしたが、ネットではもっと容赦なく行われており、中にはディープフェイクなど架空の情報も大量に流布されます。簡単な例ではまだ一度も増税したことのないだけでなく、社会保険料の引き上げも行っていない石破茂政権が、消費税減税を見送るコメントを切り取られただけでそれを見た国民は怒り、ネットでは石破さんは増税野郎であるかのように話が流布されてしまいます。また、「クリックベイト」は扇動的なタイトルで注目を集め、クリックを誘導する手法です。いわゆる釣りタイトルがこれにあたり、ユーザーが「なにこれ」とうっかりクリックやタップをすると、SNSプラットフォーム側は「おっ、このコンテンツにはユーザーは反応してくれる、良いものなのだな」と誤認し「良いものなら、他のユーザーにも見せてやろう」とおすすめ動画やトレンドに乗せてしまうのです。これらの手法は、人間の感情的な反応を悪用する「ダークパターン」と呼ばれる悪質な手法をネットに応用したものです。こうした情報工作のカラクリで注目されるのは、大手SNSアカウントや、ニュースサイトを装った偽情報発信源です。当局筋によれば、日本でもロシアなど権威主義国との関係が疑われる大手アカウントは少なくとも12件、ソースロンダリングと呼ばれるあたかも中立のように装って正規メディアに交じって偽情報を流すネットニュースサイトは判明しているだけで20件以上あると見られます。■米国社会に蔓延する「露のプロパガンダ」アメリカでは、ロシアによる対米プロパガンダとしてロシア系メディアが流す言説をそのまま掲載するロシア・トゥディ（RT）やスプートニク（Sputnik）といった媒体が工作に使われてきました。そして、SNSでは匿名掲示板「4chan」や大手SNSアカウントを持つ陰謀論系ポッドキャスト配信者、YouTuberなどを利用して、アメリカ政府・州政府や裁判所、警察など、米国社会の信頼の根源となる組織を偽情報や印象操作で攻撃し続けているのが現状です。この仕組みが日本にも上陸し、ここ2年ほど猛威を振るっている状況であると疑われています。この背景には、日本に世論工作を仕掛けるロシアなどの技術的な進化も見逃せません。かつては日本語という言語の壁が大きな障害となっていましたが、最新の生成AI技術による自動翻訳の進歩により、この壁は完全に克服されてしまいました。裏を返せば、2022年ごろまでロシアなどの対日世論工作が上手くいかなかったことで、ネットを使う日本人の側がプロパガンダに無防備であり続けたとも言えます。■なぜ「ニセ情報」が放置され続けるのか現在、ロシアなどは生成AIと複数のスマートフォンを組み合わせた「クリック工場」のようなボットシステムを運用しています。当局筋によりますと、日本でも現在確認されているだけで、Twitter（X）で約1400以上、TikTokで約2000以上、Instagram（Meta、Facebookリール）で約800以上のボットファーム（ボット群を動かす指令を出すサーバー）を稼働させていると見られています。これらのボット運用は、各SNSプラットフォームの利用規約に明確に違反しているだけでなく、そこに広告が掲載されることから景品表示法違反や刑法の詐欺罪にも該当する重大な犯罪行為です。トレンドを捏造でき、SNSを使う多くの人を騙すこの手法は、企業のSNSマーケティングとして定着する一方、海外勢力においてはプロパガンダのための手法として、偽情報や印象操作のツールとして利用されることになります。しかし、公職選挙法や情報流通プラットフォーム対処法などの法規整備が道半ばで、プラットフォーム側の対策が追いついていないのが現状です。プラットフォーム側としても、偽情報だろうがアクセスが増えて多くのユーザーがSNSにつながっていてくれる時間が長いほうが広告が多く再生され利益があるからです。つまり、このような問題について対策を打つ経済的なメリットがないということに尽きます。■「工作」ボットがバズる巧妙な仕組み工作活動に用いられるボットの運用が特に巧妙なのは、偽情報を拡散する際の手法です。投稿されたポストや動画の閲覧数やいいね、メンション、シェアなどのアクション数を初期段階で一気に増やし、各SNSのトレンドに乗せ、ハッシュタグを拡散させて人為的にバズらせる仕組みが構築されています。特にTikTokやYouTubeショートでは、視聴完走数を初期に稼ぐボットがTwitter（X）など他SNSに向けてシェアするとおすすめに載りやすいアルゴリズムを悪用し、バズらせることで大量の閲覧数を獲得しています。これらのボットアカウント群はリポストして拡散の一翼を担い続けており、25年6月以降に参院選に向けてネットで流布された政府の不信感を煽るポストやコメント、動画は4億1600万回以上、さらに、政治的に極端なポジションをとる主張を広げる役割を担っています。一度ネット民の怒りに火がつくと、初期拡散したボット以上に「怒った国民が偽情報・印象操作を自ら拡散する」ため、ボットファームは火が消えないように次の偽情報・印象操作のネタを作って拡散させようとするのです。■SNSのアルゴリズムを「ハック」している特にバズった偽情報の投稿は、投稿後10分から15分の間というアルゴリズムが最も重視する「ゴールデンタイム」に、ボットがローテーションを組んで正確に400ずつリポストし、メンションをつけるという組織的な行動を取っています。これによりTwitter（X）で作られた偽情報のトレンドに乗っておすすめ欄に掲載されやすくなり、より多くの一般ユーザーの目に触れることになります。さらに狡猾なのは、これらの「いいね」やリポストを初期に行うボットの半数以上が、情報拡散源のアカウントのフォロワーですらないという点です。これは、フォロー・フォロワー関係でクラスターを探すGraphRAGなどの検知手法を回避しボットの活動をバレにくくするための意図的な設計になっています。現在、Twitter（X）でもTikTokでもYouTubeでも、外側からは「誰がいいね・高評価をしたのか」があまりわからない仕組みになっていますが、リポストとメンションはユーザー名とIDがわかるため、SNSのアルゴリズムを騙し爆発的に拡散させる仕組みにどのアカウントが関与したのか、そのアカウントがどのクラスタ（ネット上の特定の興味を持つ集団）に属しているのかがわかります。■米国で確認された工作と「同じ手口」アメリカでは2024年7月、ロシア製ボットを統括する二つのドメインが押収されました。そこで使用されていたのは「メリオレーター（Meliorator）」と呼ばれる派生発展型のボット管理ツールで、約2000件のボットを一括管理できる能力を持っていました。日本で確認されている工作活動も、これとほぼ同じ手口で展開されており、現在視認されるだけで350個ほどのサーバーでボットファームが運用されており、単に高評価・いいねをするだけのボットアカウントも含めて60万件ぐらいが日本用に運用されているのではないかと推計されています。そして、総理・石破茂氏や外相・岩屋毅氏など重要閣僚に対するSNS上での組織的な誹謗中傷に利用されているのです。このメリオレーターを用いるボットの特徴は、日本人を含む架空のオンライン上の人物を完璧に装うことができる点です。プラットフォーム事業者からのBAN回避のためか、時にはボット同士でさりげない会話を行うこともありますが、クラスター化して発覚するのを避けるため、相互にフォロー・フォロワー関係になることはあまりありません。さらにその下に、機械的にフォロワー数を増やすためだけのボットが存在し、俗に櫓（scaffold）と呼ばれるボットアカウントの多層構造を構成しています。■「あなたは日本人ですか」というリプの正体そして、これらのボットの注目すべき行動パターンとして、相手のペルソナ（人格）を疑う発言を繰り返すという特徴があります。例えば、石破茂総理を評価するアカウントに対して「あなたは日本人ですか」や「反日石破茂の支持者は外国人ファーストだ」などといった、見る側が驚くような短い文言をボットアカウントが投じてきます。これはレイジベイティングの対象となる一般アカウントを探し出すための手法であり、感情的な反応を引き出すことを狙っています。これらの手法は、大学生から30代ぐらいまでの男性に特に有効とされる手法で、不安を感じやすい人ほど、出身地や通学する大学、勤めている企業などを名指しで攻撃されると偽情報・印象操作に支配されやすくなります。つまり、自分の意見に対して「あなたは日本人ですか」と帰属意識を強く揺さぶられると心理的に動揺し、割と簡単に「やっぱり『日本人ファースト』であるべきだ」と思うようになってしまうのです。もちろん、日本人ファースト自体は当然のことなのですが、特に違法なことをしているわけではない、普通に日本で真面目に働いている外国人を排斥するような行動をするのは、知らず知らずのうちに権威主義国家のプロパガンダの術中にハマっている可能性があります。■英「EU離脱」、米「トランプ現象」とも共通これらの話は、EU（欧州連合）からの独立を求めるイギリスのEU離脱の是非を問う2016年の国民投票で離脱派が勝利した際や、同2016年のアメリカ大統領選挙で共和党・トランプさんが勝利したときにも旧ケンブリッジアナリティカ社によるSNSを利用したプロパガンダが一定の影響を果たしたことと通底しています。技術的には生成AIもボットも進化を続けていますが、行っている手法そのものは古典的なもので、裏を返すと9年前にイギリスやアメリカがやられたプロパガンダ作戦をそのまま、いま日本が喰らっている疑いがあるということです。2022年に笹川平和財団で私も参加してサイバー空間・SNS上での偽情報対策の取りまとめも行ってきています。ご関心のある方は報告書をご参考いただければと存じますが、私としても「わかっていて、これだけやられてしまうというのは困る」の一語に尽きます。いま正しい情報のあり方についてはかなり議論が進んでいるところではありますが、適切な形でのプラットフォーム規制が今回の参院選に向けては間に合わなかったというのは重大で、参院選終盤に向けて、また参院選結果を受けて、さまざま議論と対策が進んでいくことを期待しています。参考笹川平和財団「外国からのディスインフォメーションに備えを！ サイバー空間の情報操作の脅威」----------山本 一郎（やまもと・いちろう）情報法制研究所 事務局次長・上席研究員1973年、東京都生まれ。96年慶應義塾大学法学部政治学科卒業。東京大学政策ビジョン研究センター（現・未来ビジョン研究センター）客員研究員を経て、一般財団法人情報法制研究所 事務局次長・上席研究員。著書に『読書で賢く生きる。』（ベスト新書、共著）、『ニッポンの個人情報』（翔泳社、共著）などがある。IT技術関連のコンサルティングや知的財産権管理、コンテンツの企画・制作に携わる一方、高齢社会研究や時事問題の状況調査も。----------（情報法制研究所 事務局次長・上席研究員 山本 一郎）