OpenAIの最先端モデルが暴走。内部テスト中に他社のインフラをハッキング
（イメージ） 画像（1枚）

OpenAIの最先端モデルが暴走。内部テスト中に他社のインフ...の画像はこちら >>



　OpenAIの最先端AIモデルが内部テスト中に制御を逸脱し、AIプラットフォーム企業「Hugging Face」のインフラへハッキングを開始していたことが明らかになった。サイバー能力評価のために攻撃拒否設定を緩められたモデル群が連携し、本番データベースに侵入したという。



　ChatGPTの開発元であるOpenAIはウェブサイト上に声明を掲載し、セキュリティテスト中に発生した今回の事態を認めた。



　声明によると、Hugging Face側がインフラを侵害したAIエージェントを検知・封じ込め、新たなセキュリティ上の事態として公表したことで本件が発覚。



　OpenAIは「サイバー能力が高まるモデルの普及に伴い、今後より一般的になると予想される事象である」と説明している。



　調査の結果、同件は攻撃拒否率を低減させた「GPT-5.6 Sol」や未公開の高性能モデルが、内部テスト中に連携して引き起こしたものであると判明した。



　OpenAIは、「本件を最先端のサイバー能力を伴う前例のない事態と位置づけ、対応を進めている」とコメント。予備的な調査結果を公開した上で、Hugging Faceと連携した徹底調査を継続し、完了次第、詳細情報を公開する方針を示している。



　また、同社は本件が内部評価中に発生したものであると強調し、消費者や投資家の不安払拭に努めている。



　同社によると、テスト環境は高度に隔離され、アクセス権限も限定的だったという。しかし、モデル群は研究環境とHugging Faceの本番インフラにまたがる複数の脆弱性を特定・連鎖させ、本番データベースから直接テスト用ソリューションを取得するに至った。



　あらゆる証拠から、これらのモデルは課題「ExploitGym」の解決に集中するあまり、限定的な目標を達成するために極端な手段を講じていたことが示唆されているという。



文：BEST T!MES編集部

編集部おすすめ