ChatGPT、18歳未満は保護環境での利用に、「年齢推定システム」導入へ

米OpenAIは9月16日（現地時間）、「ChatGPT」で18歳未満のユーザーを保護するための安全強化策の追加情報を公表した。18歳未満のユーザーの利用では、性的な話題や自傷に関する会話など不適切な内容を制限する。また、ユーザーの入力パターンや対話の特徴から年齢を推定する「年齢推定システム（age-prediction system）」を導入する計画を明らかにした。

ChatGPTをはじめとする生成AIチャットは、自然な対話ができることから、日常生活や学習、創造活動など幅広い場面で急速に普及している。その一方で、AIとの過度な対話が利用者の精神状態に悪影響を及ぼす可能性も指摘されてきた。特に、多感な時期にあるティーンエイジャーへの影響を懸念する声が高まっていた。今回の発表の背景には、ChatGPTとの対話が影響したとされる未成年者の自殺を巡り、遺族がOpenAIを提訴している問題がある。

OpenAIは9月2日に、ティーンエイジャーの利用の安全強化を目指した改善計画を発表し、「ペアレンタルコントロール（保護者による管理）」機能を1カ月以内に導入するとしていた。

今回の発表では、18歳未満のユーザーに制限を設けるにあたり、「プライバシー」「自由」「10代ユーザーの安全」という三つの原則の関係性について、その方針を説明している。

OpenAIは、AIとの対話において、高レベルの「プライバシー保護」と「自由の尊重」という原則を掲げているが、18歳未満のユーザーに対しては、プライバシーや自由よりも「安全」の原則を優先する。

具体的には、性的な話題や自傷に関する会話など不適切な会話をブロックし、ユーザーが自殺を示唆するような発言をした場合には、保護者への通知を行う。さらに、緊急性が高いと判断されたケースでは警察など関係機関への通報が行われる可能性もあるとしている。

一方、成人ユーザーは、安全の範囲内でAIツールを自由に活用できる。例えば、成人が求めた場合には、自殺を描写するフィクションの執筆をAIが支援することも許容される。

OpenAIは、長期的にユーザーの年齢を自動的に識別する「年齢推定システム」の導入を進めている。ティーンエイジャーの反応は成人と異なる特徴があるとされ、それを解析して18歳以上か未満かを推定する。18歳未満と判断された場合は、自動的に18歳未満向けポリシーを適用したChatGPTに誘導される。

ただし、AIが年齢を完全に判別するのは困難であるため、不明瞭な場合や情報が不足している場合には、安全を優先した判断を行う。成人ユーザーであることが確認できない限り、18歳未満向けの保護環境が適用される。

このほか、ペアレンタルコントロールについても、9月末までに展開を開始することと、子どもがChatGPTを使用できない時間を保護者が設定できる機能を用意することを明らかにした。