AIによって「万人が平等に、自由に騙し合える社会」が到来した

＊　　＊　　＊

The Yes Menを知っているだろうか。米国の二人組の活動家ユニットで、めちゃくちゃな奴らだ。

2004年、米化学企業ダウ・ケミカル社の偽サイトを作って出演依頼を受け、スポークスマンと偽りBBCに出演。「インドのボパール工場での化学物質拡散事件の責任を取り、医療を必要とするひとびとに完全補償を行ない、跡地を浄化する」とぶち上げた。ダウ株は急落し同社は火消しに追われた。

2009年には米国商工会議所の広報担当者になりすまして記者会見を開催。当時、経済界は企業行動が制限される気候変動法案を警戒していたが、偽会見では「支持に転換する」と発表。怒った本物の商工会議所担当者が乱入する様子がドキュメンタリー映画におさめられている。

また2011年には米GEの担当者に偽装して「タックスヘイブンによる税回避を行なわず、32億ドルを政府に返納する」と当時のCEO名義の偽コメントを読み上げた。

冒頭で「めちゃくちゃ」と書いたが、そこには痛快さがある。彼らの活動は企業風刺であり、社会が企業に望む発言を代弁している。彼らなりの正義が背後にあり、その戦略は、企業の担当者と偽ることで本性を暴くアートであった。

実際、米国商工会議所はのちに法案への態度を軟化させた。では、現代でも、彼らの戦略は通じるだろうか。

当時は偽サイトも偽記事も偽動画も、作るには時間とコストがかかり、ある意味で特権的だった。しかしAIがすべてを変えた。悪意をもったフェイク動画があふれ、「正義のフェイク」という発想はもはや成り立たない。

企業のCEOに事実無根の発言をさせる偽動画も大量に作ることができる。詐欺、あるいは政敵を貶（おとし）めるためにも使われるようになった。しかも作るのは難しくない。

企業の環境問題を責める側がフェイク画像を作ったケースもある。洋上風力発電に反対する記事に、風車のそばでクジラが死んでいる加工画像が使われた。The Yes Menが彼らなりの倫理観で社会に挑んだフェイクは「あやういけれど批評的」だったが、いまやフェイクは「嫌悪すべき偽物」に堕（お）ちた。

誰もが「もう何も信じられない」と思いはじめた。先日発表された「Claude Fable（フェイブル） 5」の性能は最高で、偽サイトくらいならすぐに作れる。私もアプリを何個も作った。ほかのAIと組み合わせて大量の動画やゲームを作成する事例もSNSで話題になった。

なおFable 5の性能は、すこし前に企業のセキュリティホールをただちに見抜く最強のモデルと話題になったClaudeシリーズの「Mythos（ミユトス）」級といわれている。「級」というのは、悪用を防ぐ保護機能がついているからだ。ただし、それでも悪用されることもあるだろうし、ほかのAIの性能も上がりつづける。

AIは創造を万人に開放し、その副産物としてフェイクを無限増殖させた。

全員The Yes Men時代。倫理は個人しだい。きっと私の遺言動画も疑われるんだろう。香典だけは本物でお願い。

写真／REX/アフロ