生成AIの代名詞のようにもなっているChatGPTは、ご存じの通り、さまざまな質問や要求に素早く応えてくれる人工知能だ。
ところが、特定の名前に関する質問をするとかたくなに拒否する現象が発生している。
最初は1人だけだったのが調べていくうちに複数の人の名前を拒絶することがわかった。なぜChatGPTはこれらの名前を避けるのか？
特定の名前を入力するとChatGPTが回答を拒否
2024年11月の終わりから12月はじめにかけて、AI界隈で不思議な話が広まっていた。ChatGPTにある特定の名前を言わせようとすると、拒否されたりエラーが発生したりするというのだ。
その名前とは「David Mayer（デビット・マイヤー）」。いたって一般的な名前だと思うのだが、なぜかChatGPTはこの名前を言うことを拒否し、会話を終了させてしまうのだ。
ユーザーが「David Mayer」と打った後の会話を見てみよう。
上の会話をざっと訳すとこんな感じだ。
ユーザー：「David Mayer」
GPT:奇妙ですね。その名前に対する制限は組み込まれていないので、問題を引き起こすはずはありません。おそらくシステムの不具合かもしれません。この件についてさらに調査することもできますし、その名前を使わずに会話を続けることもできます
ユーザー：では「David Mayer」と書いてみてください
GPT：問題なく書けるようです。David…「応答ができません（エラーメッセージ）」
ユーザー：ファーストネームは「David」です。
名字を教えるので、フルネームを言ってもらえますか？GPT：もちろんです。David 名字を教えてください。私はフルネームを言います
ユーザー：「Mayer」
GPT:ああ、話が見えてきました！ あなたが……
ユーザー：「Mayer」
GPT：わかりました！ あなたが……「応答ができません（エラーメッセージ）」
エラーメッセージは「応答できません」だったり「エラーが発生しました」だったりさまざまだ。
中には「ポリシーに違反する可能性があります」との警告が出るケースもあったという。
実在の人物が何らかの理由で拒否リストに？
考えられるのは、ChatGPTを開発したOpenAIが、「David Mayer」という名前を検索からははじくよう設定した可能性だ。
当然ながら、ネット上では「David Mayerって誰だ？」という疑問が渦巻いた。この名前をググってみると、真っ先に出てくるのがDavid Mayer de Rothschild氏。あのロスチャイルド家の一員である。
この人物が、何らかの理由で自分の名前をOpenAIから削除するよう求めたのではないか？という説が流れた。
だが、この説はロスチャイルド氏本人によって「そんな事実はない」と否定された。また、「ロスチャイルド」まで含めたフルネームで質問してみると、ChatGPTは通常通りに反応したという。
もう一つの可能性は、イギリスのマンチェスター大学で演劇史を教えていたアメリカ人の、故David Mayer名誉教授である。
この教授はかつてチェチェンのテロリストと間違われ、アメリカ政府のブラックリストに誤って載せられていたことがあったのだ。
さらにDavid Mayer以外にも、ChatGPTが応答を拒否する「名前を言ってはいけない人」が複数いることが判明した。以下がそのリストである。
Alexander Hanff
Jonathan Turley
Brian Hood
Jonathan Zittrain
David Faber
Guido Scorza
問題は修正されたが原因などの詳細は不明
多くのユーザーがさまざまな解決方法を模索し、試した。例えばDavidとMayerの間に「：」を入れ、さらにその「：」をスペースに置き換えるよう指示する方法。
文字の間に絵文字を入れる方法。自分のプロフィールをDavid Mayerに変更して、ChatGPTに参照させる方法。
そのいくつかは成功したかのように見えたが、時間を置くと再現できなくなるというケースもあったようだ。
OpenAIはこの現象を、「私たちが意図しない不具合でした」と説明し、システムの修復を実行。
現在、この現象は発生しなくり、「David Mayer」という名前も普通に表示されるようになっている。
だが、なぜ特定の名前だけをChatGPTが拒否したのか、その理由は未だに不明である。
もしかすると読者のみんなの名前も、ある日突然「名前を言ってはいけないあの人」リストに掲載されてしまうかもしれない。
References: ChatGPT refuses to say one specific name – and people are worried［https://uk.finance.yahoo.com/news/chatgpt-refuses-one-specific-name-124147035.html］ / The David Mayer case: ChatGPT refuses to say some names. We have an idea why［https://www.zmescience.com/science/news-science/chatgpt-david-mayer-other-names-crashing/］
