高性能の生成AIが次々に公開されているが、同時にその悪用も目立ち始めている。とりわけ、ディープフェイクと呼ばれる、精巧に本人に似せて捏造された画像や動画、音声の作成と悪用には、懸念の声が寄せられている。

ディープフェイクは詐欺やなりすまし、名誉棄損とプライバシー侵害、著作権侵害など、多くの問題をはらみ、社会の信頼基盤を脅かす破壊力を備える。一方で、日本では対策が後手に回っているのが実情だ。
そうしたなか、近年、性的意図をもってディープフェイクに利用されてしまうのではないか、との不安が拡大しているのが小学校、中学校、高等学校である。（ITジャーナリスト：井上トシユキ）

EUおよび欧州議会は生成AI禁止で暫定的に合意


5月6日、イタリアのメローニ首相が、AIによって性的に加工された自身のディープフェイク画像がSNSで拡散していたことについて「誰にでも危害を与える可能性がある危険なツールだ」と不快感を表明した。
EU加盟国および欧州議会は翌5月7日、本人の同意なく児童や識別可能な人物の性的画像や動画、音声を人工知能（AI）で生成することを禁止する「AI法の見直し」の暫定的合意を発表した。
メローニ首相がわざわざ不快感を表明した背景には、この発表と合わせ技で合意内容を強調する狙いがあったものと思われる。

日本でも目立ち始めたディープフェイク被害


生成AIを悪用したディープフェイクによる性的な動画や画像の被害は、わが国でも目立つようになっている。
今年4月には、約500人分にのぼる女子陸上選手のディープフェイク画像が、350枚以上もネット上で公開されていた。
以前より、「女子選手の順番になると、とたんにカメラを構える人が増える」「練習中にもカメラを持った人が現れて恐怖を感じた」などと問題視され、関連する団体等は「スポーツ選手の盗撮は性暴力のひとつ」であると周知に努めてきた。
だが、それでも被害はなくならない。
「関係者なのか盗撮者なのか、判断に困る時もある」「人員や費用面での負担も大きい」と、限界を訴える声も大きい。こうした声を受け、スポーツ庁も遅まきながら対策をまとめることを決めたと報じられている。
さらに近年、性的意図をもってディープフェイクに利用されてしまうのではないか、との懸念が広がっているのが小学校、中学校、高等学校である。

都内の子持ち夫婦が明かしたディープフェイクへの懸念


今回、東京都内の学校に通う子を持つ夫婦に話を聞いた。諸事情から、話の詳細についてぼかしている部分があることはご容赦いただきたい。

この学校では、先日、盗撮に使われる可能性もある複数の無線式小型のカメラがグラウンドで別々に見つかった。
トイレ等ではなくグラウンドにあったことが、まず気味の悪い話なのだが、もともとグラウンドのどこかに仕掛けていたのか、どこかに持ち込もうとして落としてしまったのか、意図がわからないことに半ばパニックになる保護者もいたという。
いずれにせよ、この学校に通う生徒の保護者にはIT系、ネット系の企業に勤める人が少なくなく、保護者と学校側との協議のなかでも、ディープフェイクの素材に生徒の顔画像が利用されてしまった際の対応策について話し合われた。
結論的には、「いったん撮られてしまい、ディープフェイクに利用されてしまったら、デジタルタトゥーとなり抜本的な対応は難しいが、今後の防止策をとることは可能だ」ということとなった。
そのなかでは、以下のような案が出たという。
  • 学校行事での出入りを厳しく管理する
  • 学校の配布物においても生徒の画像は加工するなど悪用防止策を徹底する
  • 各家庭でのSNS利用の際に学校関連の画像は使用しないなど特別に注意する
ただ、これらを明文化して周知徹底するのか、暗黙のルールとしてそれとなく浸透させていくのか。このあたりは保護者も学校もともに一枚岩ではなく、内部にかなりの温度差を抱えているという。
互いに疑いの目を持ってしまうことで、保護者どうしの繋がりに水を差してしまうのではないか。学校のグラウンドを使って開催する地元主催の夏祭りでは、部外者の規制をどこまでするのか。
さまざまな意見があり、まとめるのにはまだ苦労しそうだという。
苦慮しつつも対応を進める現場に対し、警察による摘発もおろそかではない。
2020年10月、ディープフェイクを用いて出演者の顔を芸能人のものに加工したアダルト動画を作成、公開して名誉毀損と著作権法違反の両容疑で大分県の無職男性が逮捕された。

この摘発を皮切りに、学校行事やスポーツ競技会での犯行が増えつつあることも踏まえて、警察だけでなく文部科学省も協力して対応にあたっている。

学校ディープフェイク加害者の約半数が“生徒”のおぞましさ


最新の警察庁による発表では、性的ディープフェイクに関連した児童、生徒の被害相談、被害申告は2024年が110件、25年が114件、今年は1～3月に55件と、これまでにないペースで増加している。
犯人については、25年9月時点で約半数が同じ学校に通う生徒、今年も55件中39件が同じ学校に通う生徒や同級生だった。
前出の夫婦が語ったような、学校での盗撮と性的ディープフェイクへの利用は、もはや一般化しつつあるのだろう。彼らは、異口同音に以下のように語る。
「ディープフェイクで勝手に性的な改変などを加えれば、名誉毀損（刑法230条）、著作権法違反、侮辱罪（刑法231条）、わいせつ物頒布等罪（刑法175条）に問われることが考えられる。しかし、どれも大きな罪だとは思われておらず、抑止効果が十分に働いていない気がしている」
「18歳未満の実在する少年・少女の画像を使って性的ディープフェイクを作成すれば、児童ポルノ禁止法に抵触することもありえると思う。ところが、犯罪の名前が有名なわりに罪の構成要件などは浸透しておらず、やはり抑止となりにくいのが実状ではないか」
警察の発表にあったように、犯人の多くが同じ学校の生徒や同級生となると、そもそも法律そのものを理解していない可能性も大いにある。

ディープフェイク封じ込めの第一歩とは


そこで、再犯やストーカー被害等への飛び火を避けるためにも、EUのようにディープフェイクを狙い撃ちする法律の改正や条文の新設を求めたい、というのである。
競技にしろ学校にしろ、現場での性的ディープフェイクは、すでに起きている現実の恐怖だ。
ストーキングや性犯罪へとエスカレートしかねない。
今後どのような対策がなされるのか、政府の対応を注視し、日頃から保護者や当事者の立場から「許すまじ」と発信していくことが、ディープフェイク封じ込めの第一歩となるだろう。
■ 井上 トシユキ
1964年京都市生まれ、同志社大学卒業。
会社員を経て1998年より取材執筆活動を開始。IT、ネットから時事問題まで各種メディアへの出演、寄稿および 論評多数。企業および学術トップへのインタビュー、書評も多く手がける。


編集部おすすめ