本島内の中学校で、女子生徒らの画像を生成人工知能（ＡＩ）で加工した性的ディープフェイクが出回っていた。加工した人物らが、仲間内で共有していたとみられる。
ネット上での大規模な拡散には至らなかったものの、被害に遭った生徒の衝撃や苦痛は大きく、与える影響は深刻だ。
　性的ディープフェイクとは、実在する人物の写真をＡＩで裸に加工するなどした性的画像や動画をいう。承諾を得ずに加工し、第三者に共有する行為は人権侵害に当たる。名誉毀損（きそん）などの罪に問われる可能性があるにもかかわらず、ＳＮＳで拡散されるなど問題が世界的に深刻化している。
　警察庁によれば、昨年１～９月に全国の警察に寄せられた性的ディープフェイクに関する相談は７９件。被害者の８割が中高生だった一方で、加害者の約半数が被害者の同級生や同じ学校に通う生徒だった。相談の中には小学生の被害も４件あった。
　加害行為では、男子中学生が同級生の画像を裸に加工し、他の生徒に販売するという悪質なものも。加害者は「悪ふざけ」のつもりだったとしても、許されるものではない。
　高価なパソコンや特別な技術がなくても、スマホ一つで簡単に作成できる時代となった。情報技術が進化し続ける中で、ネット社会では子どもが被害者だけではなく、加害者にもなっている実態が浮かび上がる。　学校での啓発活動など、子どもを守る対策を強化していく必要がある。

■　　　　■
　問題が大きくなった要因の一つに、国内だけでも数千万人の利用者がいるとされるＸ（旧ツイッター）が昨年１２月にシステムを導入し、より手軽に画像加工や投稿、拡散ができるようになったことがある。
　欧州やアジア各国からＸへの批判や非難が相次ぎ、調査の要求やアクセス制限を行った国もある。日本政府も対策を要請した。
　Ｘ側はＡＩを用いた画像加工について「露出の高い姿に編集できないような技術的対策」を講じ、画像生成を制限したとしている。だがこれだけで被害が防げるのか、疑問は残る。
　新技術が目まぐるしく出現するＡＩ産業と、どう向き合っていくのか。今後、さらに突き詰めて考えていく必要があるだろう。国際間で協力しながら、より実効性のある対策に早急に取り組むことが求められている。
■　　　　■
　すでにアメリカや韓国は、偽画像の作成を規制する法律を整備し、取り組みを強化している。
　国内では鳥取県が昨年４月、改正青少年健全育成条例を施行した。ＡＩを利用して実在する子どもの顔画像を加工した性的偽画像などの作成を禁じるなど、踏み込んだ内容だ。
　政府は２０２６年度中にも対策をまとめるという。
ＳＮＳ利用者への啓発だけでなく、コンテンツ開発者やプラットフォーム事業者などに対しても責任を明確化し、適正利用を続けていくための法整備が急務である。
編集部おすすめ