〈生成AIで同級生を裸に〉「性的ディープフェイク」被害が過去最多、懸念される低年齢化「なかには小学生も」

生成AIなどでわいせつな偽画像を作成する「性的ディープフェイク」問題。警察庁によれば、18歳未満からの被害相談が今年1～9月の間で79件あり、そのほとんどが同じ学校の児童や生徒が関与していたと発表。

加害者も被害者も同じ児童や生徒であるという衝撃の事実だが、79件の内訳は中学生からが最多の41件で、高校生は25件、さらに小学生が4件だった。実際にこれらの事案の相談を受ける弁護士によれば、スマホと児童や保護者らを巡る現代の課題が浮上した。

学校行事のアルバムに載っていた同級生の写真を生成AIで性的な画像に加工

昨今の事件で「性的ディープフェイク」問題が最も注目されたのは今年3月に逮捕・起訴された名古屋市の元小学校教員・水藤翔太被告(34)など現役教師の盗撮グループ事件だった。

なかでも水藤被告が所持していた画像にはAIのサイトで作成した児童の裸もあり、生成AI作成画像所持で児童ポルノ禁止法違反として立件されるのは全国初だった。

これまで明るみになっていたのは、加害者は成人であり、被害者は児童や生徒という構図だった。しかし、今回の警察庁の発表で被害者と加害者のどちらも生徒や児童というケースも増えている状況が明らかになった。社会部記者は言う。

「警察庁は注意喚起のために事例を公表しましたが、ある加害側の男子中学生は同級生の女子生徒がSNSに投稿した画像を生成AIで裸の画像に加工し、他の同級生に販売していたようです。

また、別の事例の男子中学生らは学校のタブレット端末から、行事のアルバムに載っていた同級生の女子生徒の写真を生成AIで性的な画像に加工。複数の同級生にグループチャットで拡散したとして補導されています」

拡散が拡散を生み…名誉毀損で補導される事例もある

学校や教育現場に関連した事件を扱うレイ法律事務所の髙橋和典弁護士によれば、生徒や児童らによる性的ディープフェイク事件の特徴は「友だちに拡散する傾向にある」ことだ。

「だいたいは加害側が男子生徒で女子生徒が被害者であるケースがほとんどですが、男子生徒が同級生や学校の女子生徒のInstagramやTikTokの写真を生成AIで裸にしたり、アダルトな動画に顔を挿げ替えたりして男子生徒同士のLINEグループに拡散します。

そのグループから他のグループにさらに拡散され、その画像がXなどに投稿されてしまうケースもありました」

こういった事案は「月に1、2件は相談がきて、ここ2年ほどで約30件の相談を受けた」という。さらに特徴として「公立校や私立校や学校の知的レベルに問わず起こる事案」なのだとか。

「性的ディープフェイクは外的痛みが伴わない被害であるため、知的レベルの高い生徒や児童であってもその被害の共感性に欠けるんですね。

しかし性的ディープフェイク事件による名誉毀損で補導される事例もあるので、生徒や保護者のネットリテラシーの見直しが急務であると言えます」（前同）

保護者の認識の甘さについて歯痒さを感じる教師も

こうした性的ディープフェイク問題を教師たちはどう対処しているのか。

都内の公立中学の女性教諭によると「基本的にスマホは学校に持ち込み禁止としているため、その問題に学校が関わることはないが、指導せざるを得ない状況に見舞われることもある」という。

「実は本校でも中学1年生の女子生徒が校内にスマホを持参し、職員の目の届きにくいトイレで記念撮影してInstagramのストーリーに投稿するという事案が起きました。別生徒が申告してきたことで発覚しました。

私は躊躇いながらも『あなたたちの顔にAIで他人の裸の体をくっつけられネットに挙げられる可能性もある』ことを指導しました。女子生徒に裸という言葉を使うのは勇気がいりましたが、気軽にSNSに写真を投稿するという行為がどれだけ危険か具体性をもって話さないと伝わらないと思ったからです」（前同）

女性教諭は生徒に指導したその日に保護者にも連絡を入れたが、保護者の認識の甘さについても歯痒さを感じたそうだ。

「その保護者は『放課後であればストーリーに投稿しても問題ない』という認識でいたことに愕然としました。学校であれ、放課後であれネットに画像があがることが生成AIの素材になり得るわけで、未成年のネットの画像投稿は十分に気をつけなければいけないということを伝えました。家庭ごとに反応の違いこそあれ『それは知らなかった』と感謝されました」

前出の髙橋弁護士によれば「子どもにスマホを持たせた段階で、親子で画像の取り扱いにおける配慮について話し合うべき」と言う。

「男子高校生くらいにもなると彼女との性行為を、相手女性に同意もなく無断で撮っているケースもある。それらを同級生のLINEグループに拡散する場合もある。

画像にして共有した段階ですでにデジタルタトゥーです。教育現場はもちろん家庭でも性的ディープフェイク問題や画像の取り扱いについて話し合う必要があると思います」

警察庁によると、性的ディープフェイクによる名誉毀損やわいせつ電磁的記録媒体陳列などの疑いで、今年1月から9月にかけて少年6人が補導されたという。

性的画像の公開はもちろん生成AIで加工するという行為やそれらの公開は、被害者に消えない傷を残す許されない行為だ。AI利用の道徳教育の改革急務が求められている。

取材・文／集英社オンライン編集部ニュース班