生成AI「Grok」を巡りXが安全対策を強化　編集部が体験した監視の実態

　昨年12月末、画像編集機能を搭載したことで物議をかもした、X（旧Twitter）の生成AI「Grok」。そのGrokをめぐり、Xの公式安全対策アカウント「Safety（@Safety）」が1月15日、安全対策を強化したことを発表しました。

　児童の性的搾取や、本人の同意がないヌード画像、望まれない性的コンテンツについては、引き続き厳しく対応していくとしています。

■　児童の性的搾取を目的としたアカウントも対象

　Xによると、児童性的虐待コンテンツ（CSAM）や同意のないヌード画像といった深刻なルール違反については、優先的に削除を行っているとのこと。

　さらに、児童の性的搾取を目的に画像や動画を探していると判断されるアカウントについては、必要に応じて警察などの捜査機関にも通報していると明かしています。

　つまり、児童の性的コンテンツについては、「投稿したらアウト」だけではなく、探しているだけでも見逃されないというのが、Xの姿勢です。

■　ビキニなど露出の多い服装の実在人物、画像編集を制限

　今回の発表で特に注目されるのが、Grokアカウントの仕様変更です。

　ビキニなど肌の露出が多い服装をした「実在の人物」の画像について、Grokで編集できないよう技術的な制限がかかりました。有料プランの利用者であっても、この点は例外ではありません。

　さらに、X上のGrokアカウントを使った画像生成や画像編集は、現在は有料プランの利用者だけが使える仕組みに変更されています。Xは、この対応によって、Grokを悪用する行為が起きた場合でも、誰が使ったのかを追いやすくなり、トラブルの抑止につながると説明しています。

■　地域ごとに利用を制限する「ジオブロック」も導入

　また、国や地域の法律に配慮し、ビキニや下着に近い服装をした実在の人物の画像を生成できないよう、地域ごとに利用を制限する「ジオブロック（地域制限）」も導入されました。

　Grokをめぐっては、海外でも各国の法制度との関係が問題視されており、インドネシアやマレーシアでは既に利用に一時制限されたことが報じられています。また、イギリスでも1月12日には、当局による調査が始まったと伝えられました。今回のジオブロック導入は、こうした各国の動きを受けた対応とみられます。

　なお、対象となる地域では、Grokの利用は無料・有料を問わず制限されます。

■　24時間体制で投稿内容をチェック

　Xは、今回の仕様変更があったとしても、安全対策の基本方針そのものはこれまでと変わらないとしています。投稿されたコンテンツがAIによるものか、人の手によるものかに関わらず、Xに投稿する以上はルールを守る必要があるという立場です。これは、無料ユーザー・有料ユーザーを問わず共通だとしています。

　実際の運用面では、セーフティチームが24時間体制で投稿内容をチェックしており、ルール違反が確認された場合には、投稿の削除やアカウントの停止といった対応が取られます。ケースによっては、関係機関と連携することもあるとのこと。

　Xは今後も、利用者や行政機関、他のプラットフォームと協力しながら、生成AIをめぐる問題が起きた際に、より素早く対応できる体制づくりを進めていく方針です。

■　編集部が体験した監視の実態

　今回の方針を振り返ると、Xが性的画像、特に児童が関わるコンテンツについて、より強い姿勢で対応していることがうかがえます。現に、「探す行為も含めて監視の対象になる」という方針が示されたのは、該当者たちへの“強い警告”ともいえるでしょう。

　実はXでは以前から、児童の性的搾取につながるおそれのある行動について、表に見えにくい形で監視を強めてきました。

　編集部では普段、詐欺や不審なネットサービスの実態を確認するための潜入調査を頻繁に行っています。その一環として、1年ほど前に、児童の性的コンテンツ提供をほのめかす不審なアカウントが、最終的にフィッシング詐欺を行っているという情報を得て、状況確認を試みたことがあります。

　その際、DMでの接触を試みただけでしたが（挨拶を送っただけで返信なし）、送信した潜入用アカウントは数日後に凍結され、同一IPアドレスからの新規アカウント作成も制限。

　当時は、性的コンテンツに関わるアカウントに接触しただけで、これほど迅速な対応が取られることに驚かされましたが、同時に、想像以上に早い段階で強い監視が働いていることを実感した出来事です。なお、当然ながら、相手のアカウントも凍結されています。

　「しっかり監視されている」という感覚は、気のせいではなかった……今回の方針は、そうした実感を公式に示した形とも受け取れます。

※注意※
編集部では、あくまで取材目的に限り潜入調査を行っていますが、一般の方が安易に模倣すべきものではありません。強い倫理的配慮と慎重な判断、十分な法的知識が求められる分野であり、一般の方が関与することは極めて危険です。

https://t.co/awlfMjX6FS

— Safety (@Safety) January 14, 2026

＜参考・引用＞
Safety（@Safety）

（宮崎美和子）