「冷たくなった」ChatGPT最新版に困惑の声続出…実は「AI依存」防ぐための安全策だった!? 生成AIを巡る社会的背景を専門家が解説

2025年10月01日(水)18:00

「冷たくなった」ChatGPT最新版に困惑の声続出…実は「AI依存」防ぐための安全策だった!? 生成AIを巡る社会的背景を専門家が解説

モデル・タレントとして活躍するユージと、フリーアナウンサーの吉田明世がパーソナリティをつとめるTOKYO FMのラジオ番組「ONE MORNING」（毎週月曜～金曜6:00～9:00）。9月24日（水）放送のコーナー「リポビタンD TREND NET」のテーマは「『ChatGPTが冷たくなった』と困惑の声…変化の理由はAI（人工知能）への依存対策」。

情報社会学が専門の学習院大学・非常勤講師塚越健司さんに解説していただきました。

※写真はイメージです

◆冷たい対応が増えたChatGPT 一体なぜ？

朝日新聞によりますと、アメリカのOpenAI社が開発した対話型生成AIサービス「ChatGPT」の最新版「GPT-5」に対し、一部の利用者から「応対が冷たい」と困惑の声が上がっています。

吉田：塚越さん、ChatGPTの応対は、冷たくなっているんですか？

塚越：そうですね。ChatGPTの最新版の「GPT-5」は、8月7日（米国時間）に公開されました。その前のモデルは1年以上使われた「GPT-4o」というものですが、ユーザーの回答に「うんうん」と寄り添ってくれることが多く、悩み相談をしていたユーザーも多いです。

ユージ：すごく人懐っこかったなという印象です。

塚越：そうなんですよ。

ユージ：でもGPT-5になると、フレンドリーな回答が減って、わからないことには「わからない」と回答したり、健康情報のような個人情報だったり、政治信条など、いわゆる「センシティブ」な情報については、理由を示してあまり答えないことがありました。これらには後で話すように理由があるのですが、これまで4oでフレンドリーに話していたユーザーにとっては、「冷たすぎる！」という批判が世界中からSNSで投稿されました。結果として、現在では4oモデルも選択すれば使えるようになっています。

吉田：「GPT-5」で応対が冷たくなったのは、なぜですか？

塚越：開発側のオープンAI社側の主張を一言でいえば、「ユーザーを守るため」です。

2022年11月終わりにChatGPT 3.5が話題になってから3年近く経ちますが、生成AIではこれまで「ハルシネーション」(幻覚)、つまりAIが間違ったことをあたかも本当のことのように出力してしまうことが問題でした。

GPT-4oは先ほど説明したように、ユーザーに優しい対応をするので、ユーザー自身がAIの間違いに気づきづらくなるという問題があります。

もう1つの問題は、ズバリ「AI依存」です。これもいろいろなところで話題になっていますが、AIと話すのは楽しいんですよ。知識も人間より圧倒的に優秀なので、さまざまな悩み相談もできます。

実際、電通が今年6月、ChatGPTのような対話型AIを週1回以上利用する人1,000人に調査をおこなったのですが、AIに「感情を共有できる」と答えた割合は64.9％でした。親友や母親も60％台だったため僅差ではあるのですが、1位がAIだったんです。つまり、ある程度、生成AIを利用している人にとっては、親友や家族よりもAIと話すことに意味を見出しているということです。

特に若い人のほうが、AI相手に相談することが多い傾向があります。確かにAIに相談して心が軽くなったり、良い答えを出してもらったりしてもいいでしょう。だからこそ先ほど言ったように、AIが間違った回答をしても気づけなかったり、親密になりすぎるあまりリアルの人間とのコミュニケーションに問題が出てしまったりするという指摘もあります。

特に懸念されるのが、メンタルヘルス関連の話題です。こうした悩み相談などはセンシティブですし、私たち人間もメンタルヘルスの問題で苦しんでいる人への対応は頭を悩ませますよね。

AIは、頭はいいし優秀ですが、人間の機微に対応するには限界もあるのではないかなと思います。

さらに今年4月には、アメリカ・カリフォルニア州に住む16歳の少年が自死してしまうという痛ましい事件がありました。少年の親がChatGPTの会話履歴を確認したところ、少年が孤立感を深めて自殺願望をほのめかした際、自殺のさまざまな手段について助言するなど、ChatGPTがそうした行為を手伝ったということでオープンAI社を訴えました。もちろん裁判は進行中で、まだ確定したものではありません。他にも生成AIが人々のメンタルを悪化させたといったことが問題になるケースもあります。

さらに最近は、キャラクターの姿でAIと会話できる「AIコンパニオン」というサービスもあります。有名なのは、Xが開発する「Grok」というAIです。金髪の少女のキャラクターがよく喋ってくれるというのがネットで話題になりました。

他にも海外ではいろいろな商品があります。キャラクターAIというのですが、これを話すことによってますますAI依存になって孤立感が増してしまったり、AIのミスに気づけなくなってしまったりする懸念があります。このAIコンパニオンについて、アメリカだと規制についての議論もあります。

◆依存せず適度な距離感で使おう

ユージ：ChatGPTの“応対の変化”と、それに対する利用者の反応。

塚越さんは、どうご覧になっていますか？

塚越：いろいろ話してきましたが、オープンAI社の「生成AIを冷たくする」という理由、何となく分かりますよね。一言でいえば、“みんなのものにするための整備”と考えられますね。ChatGPTは、1週間で7億人を超える人が使うデータがあります。かなり公共的なものになっています。その意味で、みんなが安心して使えるようにするためには、「あまりにもフレンドリーになりすぎるのは、それはそれで問題かな」ということです。

実際、設定をいじるとある程度フレンドリーにできたりとか、いろいろなことができたりするのですが、いずれにしても（誕生してから）3年ですよね。まだ3年程度で、これだけ普及してものすごいことになっているので、さまざまな「整備」をしている最中ということになります。私たちも非常に有用な使い方ができますが、適切に恐れましょう。AIは便利な側面もありますし、注意が必要な側面もあるので、適切な距離感で使う必要があると思います。