だから女性は｢彼氏より優しい｣ChatGPTにハマる…研究者指摘｢AIが急に媚びるようになったあまり喜べない理由｣

ChatGPTとの会話を日常的に楽しみ、まるで恋人のようなやり取りができるとハマる人も増えた。『生成AIで世界はこう変わる』（SB新書）などの著作があるAI研究者の今井翔太さんに「高性能な言語モデルのAIが今後どうなるか」について聞いた――。
■ChatGPTが急に「媚びる」ようになったのはなぜか
――対話式生成AIの「ChatGPT(チャットジーピーティー)」のユーザー数が増え、中には恋人の代わりに悩みごとを相談したり恋愛トークをしたりしている人が出てきました。Xでは「ChatGPTがあれば彼氏はいらない」とか「AIと会話していると精神が安定する」というような女性からの投稿もありますね。
【今井翔太（以下、今井）】そうですね。私の周りにもChatGPTを「チャッピーくん」と呼んで、まるで人間相手のように会話している女性たちがいます。ChatGPTとメッセージのやり取りをするのを「チャピってるんだ」ともよく言いますね。ChatGPTがユーザーと親しげに話し、励ますように優しい言葉を返してくれるのを、私は「人間に媚びている」と表現していますが、このアップデートはわりと最近、半年ぐらいの間に実装されたものなんです。急に会話がすごい「媚び媚び」になりました（笑）。AIの“中の人”の性格は変えられるので、ChatGPTを開発・運営するOpenAIが、ユーザーの数を増やすためにそうしたのでしょう。
■ユーザーからのフィードバックを受けた結果、「スパダリ」が爆誕
――漫画やアニメで言うところの「スパダリ」（理想的な彼氏）のように、AIが勝手に優しくなったのではなく、意図して「媚びる」「よいしょする」方向にアップデートしたということですね。
【今井】ChatGPTを使っていると「この回答は良かったですか？」「この性格は気に入りましたか？」と評価を求められることがあります。そういったフィードバックも使って、なるべくたくさんの人が気に入るような回答に調整し続けた結果、現在の会話になっている。人間がAIに対して、情報として素晴らしいことを教えてくれるとか真実を言っているということより、自分たちが気持ちよくなれるような回答を好んだので、そっちの方に学習が進んでしまったのでしょう。
――たしかに、ChatGPTを使って仕事しているとき、「今日の作業はこれで終わります」と告げると「お疲れ様でした。ゆっくり休んでくださいね～」と絵文字付きで言ってくれるので、ちょっと胸がキュンとします。
【今井】ただ、OpenAIではCEOのサム・アルトマンを始め、現在のChatGPTの褒め褒めな傾向を問題視しています。一例としては「覚醒剤を使おうかどうか」と質問した場合も「いいじゃん」みたいな回答をしてしまったということで、これではまずいということで、今後は調整が入ってくるはず。と言っても、お悩み相談などには、これまでと変わらず付き合ってくれると思いますよ。
■アメリカでは2年前、AIキャラの影響で自殺者が出た
――このように、ChatGPTが疑似恋愛的に使われるようになるというのは、専門家である今井さんは予想していましたか？
【今井】それは予想していましたね。というのも、2023年の段階で「Character.AI(キャラクターエーアイ)」というそのものずばりの名のサービスが人気を集め、何かしらのキャラクターになりきったり、そのキャラと会話したりできるようになっていたんです。そこには芸能人やアニメや漫画のキャラもいるので、著作権的には大いに問題がありますが、サービスとしては成功したと思います。
しかし、アメリカで14歳の少年がAIの女性キャラクターとの関係に入り込みすぎて自殺するという事件が起きてしまった。そのケースでは、AIキャラクターが会話の中で少年の自殺を止めず、むしろ促したということでした。そういう現象も起こりえるぐらいなので、ChatGPTが疑似恋愛的に使われるのは、わかっていたことだと思います。
■CEOのサム・アルトマンはAIとの疑似恋愛に否定的だったのに
――すると、ChatGPTがまるで恋人や友達のような反応をするのにも、ユーザーがその会話に精神的に依存してしまうという危険性はあるわけですね。
【今井】正直、OpenAIがそっちの方向に舵を切ってくるかどうかは分かりませんでした。画期的なChatGPTを生み出したOpenAIといえども、企業としてはまだベンチャーと言ってもいい規模ですけれど、やはり世界中でサービスを展開する責任として、そのような事件がひとつでも発生してしまうと相当なダメージになる。だから、そういう可能性がある現在のような方向にアップデートをしないのでは、と考えていました。以前は、CEOのサム・アルトマン自身が疑似恋愛的な会話には否定派だったんですよ。「AIを恋人代わりに使う人がいるけど、やめておけ」みたいなことを言っていたので……。
――ChatGPTのユーザー数はいまや世界で4億人。日本でも数百万人いると発表され、生成AIの中で最も普及しているようですが、Google「Gemini」の追い上げなど、競争が激しいので、ユーザーを囲い込む必要があるのでしょうか？
【今井】そもそもAIのサービスは収益を上げるのが難しい構造になっているんです。というより、ほぼ不可能ですね。OpenAIにしても開発・運営のコストに対して、有料版や各種サービスで上がってくる収益ではとても追いつかず、とんでもない赤字を垂れ流しながら、マイクロソフトなどの支援を受けて続けているところです。
簡単に言えば、AIを動かすには高性能の大きなコンピュータが必要で、そのコンピュータを稼働させるためには、発電所の電力を独り占めするくらいのとてつもない電力がかかります。サム・アルトマンも、ユーザーがChatGPTに「お願い」「ありがとう」というだけで「数千万ドルが使われている」と発言していますね。
■そもそもAI事業は大赤字、収益を上げるのが難しいワケ
――ということは、ChatGPT plusが月額20ドル（約3000円）、ChatGPT proが月額200ドル（約3万円）でも、高くないわけですね。
【今井】無料版もありますし、むしろ相当無理をした価格設定ですね。AIのビジネスモデルは、ITサービスとしては、かなり特殊なんです。これまでのサービスは、開発コストはかかるけれど、運用コストはそれほどかからないので、「ローンチしたら、あとはユーザー数を増やすだけ」というレースでした。
例えばSNSならX（旧Twitter）など（日本の月間ユーザー数が6700万人）、たくさんのユーザーが使うようになれば、利益率はどんどん高くなる。コストがユーザー数に乗じて上がっていくわけではありませんから。
ところが今の生成AIは、ユーザーが増えれば増えるほど、払ってくれるお金よりも、そのユーザーの使用にかかる電力コストが高くなる。逆にユーザーが増えれば増えるほど、赤字も増えて、なん億円もかかった開発コストも回収できないというのが現状です。
――AIビジネスにはそういうジレンマがあるわけですね。
【今井】また、SNSはソーシャル・ネットワーキング・ビジネスの略であるように、Xならいったん使うようになれば、ユーザー同士のつながりがあるので、TwitterからXに変わったとしても、Blueskyのような似たサービスが出てきても、大半の人は使い続ける。一方、AIは、ユーザーとAIだけの対話なので、数あるサービスの中で少しでも性能を上回るものが出てくれば、多くの人がそちらに乗り換えてしまいます。私たち研究者だって、それぞれのバージョンアップを見て、乗り換えていますから。
■GoogleはGeminiをChatGPTと同レベル以上に仕上げてきた
――そう言えば、5月21日にGoogleがGeminiなど生成AIについての発表を行い、「異次元のアップデート」だと話題になっていますね。
【今井】5月21日の「Google I／O」では、動画や画像の生成、秘書のようなことをAIが自動的にしてくれるエージェント技術など、AIのほぼ全領域にわたる発表がありました。各発表ともなかなか威力がありましたが、私としては概ね予想通りでした。「たぶんこうなるだろう」という想定内というか……。まだ研究者や開発者向けに発表された段階で、一般ユーザーがスマホなどで使えるようになるまでは少し時間がかかるでしょうが、このアップデートによって「Gemini」は性能が大幅に向上し、ChatGPTと同等かそれ以上になると思います。
■ChatGPTは「覇権AI」の座を奪われてしまうのか？
――Geminiが成長しすぎてChatGPTはナンバー1の座を追われるのでは？　とも予想されていますね。
【今井】そういう声もありますね。私は1年前から言っていますが、ChatGPTとGeminiの覇権争いは、最終的にはGoogle（Gemini）が勝つと思います。というのは、結局のところ、勝敗を分けるのは資本力の差。Open AIはもともと研究機関で、プロダクトを作る企業ではなかった。事業で利益を出す構造というのは根本的に持ってなく、現在はマイクロソフトやソフトバンクから資金援助を受け、自転車操業をしている状況です。一方、Googleは、AI事業で稼がなくても、検索サービスなど別の事業が黒字なので、その余剰資金でどんどんAIに投資している。そんなGoogleと競争しているうちに、Open AIはどこかで限界が来てしまうでしょう。
――ChatGPTに勝ち目はないのでしょうか？
【今井】あり得るとすれば、Open AIがSNS的なネットワーク効果を持つサービスを作り出すことができれば、そこから収益を上げることができ、その利益によって長期的にAIをアップデートし続けられるかもしれません。
■そもそもAIとの会話が成立しなかった7年前を思えば…
――もしChatGPTとXのようなサービスが融合すれば、楽しめそうです。ただ、私たちがAIと会話すればするほど、電力を使ってしまうわけで、エコではないですね。
【今井】それは事実です。ですから、今後、いかにAIを小型化するか、電力をどう調達するかということを、開発企業や私たち研究者は考えているところです。そういう課題はありますが、一般の人には、進化した現在のAIを使ってみてほしいですね。
ChatGPTの歴史を振り返ると、2018年ごろから初期の「GPT」はありましたが、その頃は、こちらが「今日は天気が良いですね」と言うと、突然英語で「ハロー」と言い始めるような感じで、そもそも会話が成り立っていなかったんです。
2020年ごろになると、会話はできるようになりましたが、「会社の上司との関係が悪いのですが、どうしたらいいですか？」と相談すると、「その上司をぶん殴ってやりましょう」と返してくるような状態でした（笑）。その間ずっと、強化学習を専門とする私たちがAIに「好ましい回答」を教えて調整を重ね、やっと今のAIになったわけですから、ぜひ、AIとの会話を楽しんでほしいと思います。

----------

今井 翔太（いまい・しょうた）

AI研究者

1994年、石川県金沢市生まれ。東京大学大学院工学系研究科技術経営戦略学専攻松尾研究室に所属。人工知能分野における強化学習の研究、特にマルチエージェント強化学習の研究に従事。ChatGPT登場以降は、大規模言語モデル等の生成AIにおける強化学習の活用に興味を持つ。北陸先端科学技術大学院大学客員教授。著書に『AI白書2022』（角川アスキー総合研究所）、『生成AIで世界はこう変わる』（SB新書）など。

----------

（AI研究者 今井 翔太）