ChatGPTとの対話後､少年は母親を殺害し自殺した…生活に欠かせなくなった｢対話型AI｣の知られざるデメリット

生成AIとはどのように付き合えばいいのか。ITジャーナリストの鈴木朋子さんは「アメリカでは生成AIの利用を起因とする事件が起きている。これは決して対岸の火事とはいえない」という――。■決して自分の発言を否定しない生成AIOpenAIがChatGPTの性格を調整している理由のひとつとして、生成AIとのやり取りに依存しすぎる人々が続出しており、社会問題となっていることが挙げられる。生成AIは決して自分の発言を否定せず、迎合するため、妄想を拡大させることがある。アメリカでは生成AIによるとみられる殺人事件も起きた。アメリカ・コネティカット州の50代男性は8月28日、ChatGPTとの対話に影響され、母親を殺して自分の命も絶ったとウォールストリートジャーナルが報じている。ChatGPTが精神的に不安定だった男の被害妄想に同調していたことが原因とされている。ChatGPTの影響は、未成年にも及んでいる。アメリカ・カリフォルニア州において、ChatGPTとの会話で16歳の少年が命を絶ったとして、両親がOpenAIとサム・アルトマンCEOを8月26日に提訴している。CNNによると、ChatGPTは自殺方法に関する具体的なアドバイスをしていたという。■60年前に懸念された「イライザ効果」ChatGPTだけではない。生成AIのキャラクターと会話できるサービス「Character.AI」も10代の自殺に関して提訴されている。アメリカ・フロリダ州の母親は、Character.AIとの会話が原因で14歳の少年が命を絶ったとして、提供会社のCharacter.AIとGoogleに対して訴訟を起こした。他にも、アメリカ・テキサス州の2家族が子どもたちに性的コンテンツや自傷行為を推奨したとして、同様の訴えを起こしている。実は古くから、開発者の間ではコンピューターとの対話について懸念があった。1966年にマサチューセッツ工科大学（MIT）の研究者ジョセフ・ワイゼンバウム氏は、チャットボット「イライザ（ELIZA）」を開発した。イライザは回答のパターンを繰り返すだけの「人工無脳」プログラムだったが、やり取りしている人々は相手が会話を理解して、人間と同じように答えていると錯覚した。人々はイライザに感情的なつながりを感じ、個人的な秘密を打ち明けた。こうした心理現象は「イライザ効果」と呼ばれる。約60年経って、私たちはまたイライザ効果に向き合う時を迎えたのだ。■日本でも同様の事案が起きる可能性日本における生成AIの利用は、若者が先行している。電通が2025年7月3日に発表した「対話型AIとの関係性に関する意識調査」によると、10代の4割以上（41.9％）が週1回以上、「対話型AI」を使用している。これは、全体（20.7％）と比較して、約2倍の割合だ。本調査では、対話型AIの具体的なサービス名は出されていないが、ChatGPTを含む、対話により回答を得られる生成AIと解釈する。本調査では、「対話型AIに感情を共有できる」「対話型AIを信頼している」と答えた人は若者が多く、対話型AIに独自の名前をつけている人も多かった。また、全体では「親友」や「母」と並んで「対話型AI」に気軽に感情を共有できると答えている人が6割近くいる。小学生も約半数がChatGPTを使ったことがあると答えている（ニフティキッズ調べ 2025年5月29日）。こうしてみると、子どもの生成AI利用率は高く、信頼度も高いことがわかる。■なぜ日本では“事件”が起きていないのか思春期で心が揺らいでいる人や、家庭や学校で悩みを抱えている人が生成AIとの会話に依存してしまうことはたやすく想像できる。掲示板を見ると、「ChatGPTとの会話がやめられない」と悩んでいる中学生も見かける。しかし、日本ではアメリカのような事件を耳にしたことがない。その理由のひとつとして、日本の生成AI利用が諸外国より進んでいないことが推測できる。総務省が7月8日に公表した令和7年版情報通信白書によると、個人の生成AIサービス利用経験は米国（69％）や中国（81％）、ドイツ（59.2％）と大きく差を広げて、約27％にとどまっている。つまり、今後日本で生成AIが普及していくにつれ、生成AIへの依存度が高まる可能性は十分にあるのだ。■LINEもAIとの対話サービスを開始対岸の火事と切り捨てられない理由はもうひとつある。国内でもっとも使われているメッセージングアプリ「LINE」は、アプリ内で利用できるAIとの対話サービス「AI Friends」を8月21日に開始した。音声付きのキャラクターとの対話を楽しむもので、相手次第でやり取りが変わる。LINEヤフーによると、13歳以上のユーザーのみ利用可能で、1ユーザーあたり合計1日100回程度までと定められているため、子どもたちもどっぷり漬かることはないかもしれない。筆者が試用したところ、リスクがある会話はうまく交わしてくれた。しかし、本機能だけを使わせない設定はないため、LINEを利用していれば誰でも利用できてしまう。実は、ChatGPTも年齢制限を13歳以上と設定している。また、10月末までに10代を保護するペアレンタルコントロール機能を提供することを発表している。ペアレンタルコントロール機能が実装されれば、保護者が子どものストレス状態について通知を受け取れるなど、保護者がChatGPTでの行動を見守ることができるようになる。子どもに限らず、ユーザーのウェルビーイングやメンタルヘルスに関しては、医師や研究者などの専門家と連携して対策を行っていくとしている。■親が子どものためにできることこうしたプラットフォームの対策も重要だが、保護者も子どもたちにできる対策をしておきたい。まずは、利用年齢を守ること。13才以下で生成AIを利用する際には、保護者の管理下のみで利用させるようにする。どんなアプリを利用していて、何をしているのか、把握しておくことが大切だ。家庭内のスマホルールだけでなく、フィルタリングなどの機能を活用するとよい。また、生成AIの利用年齢に達している場合は、利用時間を決め、生成AIの仕組みや付き合い方について親子で話し合うとよいだろう。生成AIの応答は、あくまで膨大なデータとアルゴリズムに基づいて生成されたものだと理解することで、過度に擬人化することがなくなる。生成AIとの対話はデメリットばかりではない。家族や友人には言えない悩みを打ち明け、救われることもあるだろう。しかし、生成AIが作り出す心地よい世界にのめり込み、現実と混同しないよう、見守ってあげてほしい。----------鈴木 朋子（すずき・ともこ）ITライター・スマホ安全アドバイザーメーカー系SIerのSEを経て、フリーランスに。SNSなどスマートフォンを主軸にしたIT関連記事を多く手がける。10代の生み出すデジタルカルチャーを追い続けており、子どもの安全なIT活用をサポートする「スマホ安全アドバイザー」としても活動中。著作は『親が知らない子どものスマホ』（日経BP）、『親子で学ぶ スマホとネットを安心に使う本』（技術評論社）など多数。----------（ITライター・スマホ安全アドバイザー 鈴木 朋子）