AI生成による｢立憲のニセ女性政治家｣登場の薄気味悪さ…政治とSNSの”悪魔合体”でこれから始まる地獄絵図

X（旧ツイッター）で、アカウント名「中村りほ＠立憲民主党」という女性政治家の投稿が騒動になっている。生成AIによる架空の政治家だったからだ。『SNS選挙という罠』（平凡社新書）を書いた作家・批評家の物江潤さんは「SNSを、まともな言説が交わされる場として扱うのはやめるべきだ」という――。■とうとう日本でも登場した"架空政治家"とうとう、日本でも起きたか。「中村りほ＠立憲民主党」なるXアカウントをめぐる騒動を知ったとき、そんな感想が頭に浮かんだ。後述するように、すでに諸外国では類似した事例が起きており、日本でも生じるのは時間の問題だった。女性支援や子育て支援などについて発信を繰り返していた同アカウントのプロフィールには「性暴力から妊娠、出産」という文言が記されていた。投稿には出産時の不安や痛み、わが子の産声を聞いたときの涙が記され、赤ん坊を背負って政治活動をする画像もあった。「娘ははじめてのお祭り。去年はまだお腹にいたからわからないかな」と母親らしい感慨を綴る一方、「骨盤の骨折も治りかけ、ようやく和式で小が出来るようになりました」という投稿までしていた。ところが、この若き政治家「中村りほ」は架空の存在だった。アカウントを運営していたのは立憲民主党栃木県連に党員登録している男性であり、女性の画像は生成AIで作成したとみられる。つまり男性が、実在しない若い女性の妊娠や出産、果てには排泄にまで言及しつつ政治的な発信を繰り返すという、なんともおぞましい事実が明らかになったのだ（なお、県連はアカウントの運用への関与を否定している）。事の顛末が判明していくと、SNS上には嫌悪感を表明する言葉が並んでいった。そんな嫌悪の言葉に誘導されたのか、頭に浮かんだのは「腐ったレモン」だった。ここでの「腐ったレモン」とは、ビジネス書などでもたびたび紹介されるレモン問題のことだ。■「腐ったレモン」ばかりのSNSレモンの皮は分厚いため、中身が腐っていても買い手側は判別ができない。が、売り手側は腐っているかどうかを知っている。このとき、買い手側は腐ったレモンを掴まされたときのリスクを考え、レモンに高い金額を払わなくなる。いきおい、高いレモンは売れなくなるため、良質で高価なレモンを供給する業者は市場から撤退を余儀なくされ、腐ったレモンを売る悪徳業者ばかりが残ってしまう。買い手側と売り手側に情報の非対称性があるとき、粗悪品が良品を駆逐することがあるというわけだ。生成AIによる偽ユーザーが跋扈し始めたSNSも、発信する側はそれが腐っている（偽物）と知っているのに、受け手には分からないという意味では同じである。今回の件は偽装工作が杜撰だったので露見したが、用意周到に準備されたら、そうそう偽物かどうか（腐っているかどうか）は分からないだろう。ただし、普通の市場とSNSとの間には決定的な違いがある。普通の市場に腐ったレモンばかりが並んでいれば、客は来なくなり市場は縮小する。ところがSNSでは、レモンが腐っていてもかまわない。それどころか、ある意味では腐っているほど都合がよいとさえいえる。強烈な腐敗臭、すなわちおぞましい投稿が注目を集めれば、それが最終的にはプラットフォーマーに利益をもたらすからだ。■今後とも同様のケースは増えるしかも、こうした偽人格をSNSへ参入させるための障壁は、生成AIの進歩によって急速に下がっている。顔や経歴だけでなく、日々の投稿に添える画像、動画まで容易に作ることができるうえ、一人のユーザーが職業も人生経験も言葉遣いも異なる複数の人格を同時に稼働させることも難しくない。そこで得た注目を金に換えるのか、承認欲求を満たすために使うのか、それとも政治的な影響力へ換えるのかはユーザーによって異なるだろうが、いずれにせよ、偽の人格によって注目を獲得するための費用は、今後ますます下がっていく。それに対し、失敗したときの損失は小さい。もちろん、詐欺や名誉毀損などに及べば話は別だが、架空の人格を作って投稿していたことが発覚しても、多くの場合はアカウントや収益化の停止にとどまる。アカウントを失ったところで、顔や名前、経歴を変えた別の人格を作ればよいだけだ。成功すれば金や承認、政治的影響力を得られる一方、失敗しても失うものはほとんどない。こうした状況を悪用する人間が、これから増えないと考える方が不自然である。実際、その先例と呼ぶべき出来事が、すでに米国などで起きている。2026年4月、WIRED.jpは、インド北部出身の22歳の医学生を名乗るサムが、生成AIで「エミリー・ハート」という架空の若い女性を作ったという事例を報じた。■アメリカで大バスした「MAGA美女」の正体当初、サムは副収入を得ようとして、AIで作った露出度の高い美女をインスタグラムへ投稿していたが、ありふれたAI美女だったためか反応が得られなかった。そこで生成AI「Gemini」に助言を求め、いくつかの差別化案を提示したところ、Geminiが選んだのが「MAGA／保守系ニッチ」だったという。そしてサムは、この差別化案を遂行するため行動に出る。米国に住んだ経験はないものの、サムはMAGA思想を徹底的に研究した。「毎日、親キリスト教、銃規制反対、中絶反対、反“woke”、反移民の投稿を書いていた」と語る。この手口はあまりに露骨に思えたが、彼の驚きとは裏腹に、アカウントは「爆発的に伸びた」という。「投稿するリールはすべて300万、500万、1,000万回再生。アルゴリズムに愛されました」とサムは主張する。1カ月でフォロワーは1万人を超え、その多くがOnlyFansの競合サービスFanvueでエミリーのソフトコアなAIコンテンツに課金した。さらにMAGA風Tシャツ（例：「PTSD：Pretty Tired of Stupid Democrats」）の販売も合わせ、月に数千ドル（約数十万円）を稼いだと見積もっている。「1日30～50分の作業で、医学生としては十分すぎる収入でした。インドでは専門職でもこんな額は稼げません。こんなに簡単に稼げる方法は見たことがありませんでした」と彼は語る。（「AI生成の『MAGA美女』で男たちから金を巻き上げた――医学生だと語る人物の手口」WIRED.jp)■4カ月あまりで100万人以上のフォロワーまた、同記事でサムは反対派が腹を立ててコメントを書き込むことについても、結局はクリックされるのだから好都合だという趣旨のことを語っている。支持される必要がないどころか、熱心に批判する者までが金を運んでくる客になっていたのだ。支持者から称賛されようが、反対派から罵倒されようが、注意を奪うことができれば商売は成立する。このビジネスが利益をあげる一方、SNSには腐ったレモンが増えていくという負の外部性が拡大していくだろう。実際、同様の事例は続々と報告されている。同年5月にはAFPも、米国のSNSで、水着姿や軍服姿の金髪女性など、AIによって生成されたトランプ支持の「インフルエンサー」が多数現れていると報じた。また、前述のWIRED.jpによれば、架空の女性兵士「ジェシカ・フォスター」は、4カ月あまりで100万人以上のフォロワーを獲得したという。今回の「中村りほ＠立憲民主党」は、金儲けのために作られたのではないだろう。しかし、「若い女性」「母親」「性暴力の経験者」「政治について語る当事者」といった属性を組み合わせ、実在しない人格によって人々の注意や共感を集めるという点では同じだ。得ようとしたものが金だったのか、承認だったのか、政治的な影響力だったのかという違いにすぎない。■企業側の責任電通など4社によると、2025年の日本のソーシャル広告費は、前年比18.7％増の1兆3067億円となり、インターネット広告媒体費に占める割合も39.5％に達している。SNSをめぐる種々の問題はたびたび指摘されているが、少なくとも広告市場の規模を見る限り、SNSを問題視した企業が次々と撤退している様子はない。腐ったレモンが金になるという、歪なSNSを支えているのは広告主である企業だ。CSRを厳しく問われるなか、芸能人の不祥事ひとつでスポンサー契約を打ち切る企業が散見される一方、どうしてSNSが次々と巻き起こす社会問題に対し、企業はこれほどまでに寛容なのだろうか。もっとも、この市場を成り立たせているのは企業の広告費だけではない。私たち利用者も、SNS上で腐ったレモンに怒り、呆れ、批判しながら、クリックやコメントという形で注意を差し出し続けている。先ほどのサムの事例では、批判的なコメントまでがクリック数やエンゲージメントを押し上げ、商売の一部として利用されていた。腐ったレモンをめぐってSNS上で怒りを表明することすら、この市場を回す側に組み込まれてしまうのである。■SNSでまともな言説を交わすことは無理こうした偽アカウントへの対策となると、「偽物を見抜くリテラシーを身につけよう」といった、各ユーザーの問題に還元する論が散見される。しかし、それは問題の所在を取り違えている。本当に問題なのは、利用者が偽物を見抜けるかどうかではなく、腐ったレモンが数多く並び、しかも腐っているほど価値を持ってしまう市場そのものだからだ。腐ったレモンを判別できない人々が問題なのではなく、腐ったレモンを大々的に陳列する市場が悪いに決まっている。だとすれば、私たちに求められるのも、リテラシーを磨いてこの市場へ適応することではない。もはや、そうした市場（SNS）に出向くことを必要最小限にとどめ、適切な距離を置くことにある。腐ったレモンほど価値を持つ市場を、まともな言説が交わされる場として扱う前提そのものを、そろそろ手放すべきではないか。----------物江 潤（ものえ・じゅん）作家・批評家1985年福島県生まれ。早稲田大学理工学部卒業後、東北電力、松下政経塾を経て、政治・社会・教育などについて執筆活動を続けている。著書に『空気が支配する国』（新潮新書）『入試改革はなぜ狂って見えるか』（ちくま新書）『現代人を救うアンパンマンの哲学』（朝日新書）など。近著に、尾崎行雄記念財団「咢堂ブックオブザイヤー2025」選挙部門大賞を受賞した『SNS選挙という罠』（平凡社新書）がある。----------（作家・批評家 物江 潤）