＜全国初の摘発＞AI生成“わいせつ”画像を9000点以上出品、“素人”男女4人が逮捕「原価が安く、稼げた」深刻化するディープフェイク

AI（人工知能）で生成した裸体女性の性交場面などを描いた“わいせつな画像”をポスターにして販売した男女４人が警視庁保安課にわいせつ図画頒布容疑で逮捕された。実在する女性ではなくAIを使用したわいせつ物販売事件の容疑者逮捕は全国初となる。

「違法とは知らなかった」と一部容疑を否認

生成AIをつかって作成したわいせつ物の販売事件の摘発は全国初のことだった。

4月15日までに逮捕されたのは、愛知県の小売業・水谷智浩容疑者（44）、同県の会社員の堤内真人容疑者（34）、埼玉県の会社員・菅沼貴司容疑者（53）、東京都のパート・桜井七海容疑者（28）の男女4名。

それぞれ昨年10月から女性の裸などを描写したポスターをインターネットオークションなどで販売し、約1年間で1000万円ほど売上げていたという。

社会部記者が解説する。

「4人はそれぞれ自宅のパソコンに無料のAI画像生成ソフトをインストールして画像を作成し、自宅プリンターなどで印刷して9000点以上出品したようです。

このソフトは簡単に入手できるものです。容疑者らは『もともと知識はなかった』『独学で（AI生成方法を）学んだ』などと容疑を認めているが、一人は『違法とは知らなかった』と一部容疑を否認している。

今回の犯行に及ぶきっかけとなったのは、SNSなどで『原価が安く、稼げる』などの投稿を見るなどしたことがきっかけだったようです。AIを用いて『脚を開く』などポーズやイメージを入力して次々に過激なポスターを作成、コンビニでプリントアウトしたこともあったようです」

アダルトメディアに詳しいライターの尾谷幸憲氏によれば、「現在はAIグラビア写真集で月10万円の不労所得が得られるなどとうたったSNSの投稿やまとめサイトが乱立しています」と言う。

「今回の容疑者らがどのソフトを使ったかはわかりませんが、スマホだけでAI画像が作れるアプリなど、さまざまなAI生成ソフトがあり、実際、それらで作ったとされる、法に触れないAIグラビア写真集はAmazonなどでも無数に販売されています。

メルカリやヤフオクなどのオークションサイトでは、かなりきわどい写真が現在も売られています。股間に女性器の形がくっきりと見えるものはまだしも、白い液体が水着姿の女性にかかっているようなものなどもあります」

この手のAIグラビアの中には、さらに悪質なものも存在するようだ。

有名女優の顔が悪用されている… 

「私がこの手の画像がオークションサイトなどで販売されているのをよく見るようになったのは昨年頃からです。中には、顔が明らかに有名女優やセクシー女優のものにすげ替えられた画像や、それらの画像を悪用したと思われるAI画像も散見されました。これは明らかに人権侵害であり、著作権侵害だと思いました」（尾谷氏） 

尾谷氏は「今回の容疑者らが供述している『悪いことだと思わなかった』という言葉が気になる」としながらも、こう続けた。

「悪いことだと思わなかったというのが、単純に言い逃れならまだしも『日本においては局部が“わいせつ物にあたる”ということを知らなかった』ということだとしたら、常識レベルの低下を感じます」

女性・子どもの権利など人権問題を主に専門とする弁護士の伊藤和子氏は、今回の摘発を「画期的だ」としながらも、こう提言した。

「AIで作成された性的画像を営利目的で頒布や拡散する事象はかなり深刻化しています。全国初摘発の意義は大きいと言えますが、刑法のわいせつ物規制は非常に限定的で、起訴基準が非常に厳しい。個別の案件での対応と併せて、米国や韓国など諸外国同様『ディープフェイクポルノ』に関する法規制が必要だと思います」

警視庁は今後も警戒を続けていく意向のようだ。AIグラビア写真集の販売そのものが悪いわけではないかもしれないが、わいせつ物の作成と販売は違法にあたるということを改めて知らしめる事件となった。無法地帯に今後もメスが入ることを期待する。

取材・文／集英社オンライン編集部ニュース班　写真／Shutterstock