「ホリエモンAI」が10歳児の間で流行。鈴木おさむが危惧する「法律で縛るほどAIがより巧妙に進化してしまう」皮肉

法務省は、生成AIによる声や肖像の無断利用が深刻化している問題を受け、「肖像、声等の無断利用による民事責任の在り方に関する検討会」を設置することを発表した。今まで主に知財分野で議論されてきた同問題に対し、民法を所管する立場から有識者を交えて現行法令や判例の解釈を整理したい考えだ。
放送作家の鈴木おさむ氏は、生成AIによる声や肖像の無断利用を防ぐための法整備は必要だとしつつも、それだけでは追いつかない可能性があるとみる。むしろ今は、「AIはルールの外に出る存在かもしれない」という視点を持つが、その心は（以下、鈴木氏による寄稿）。

法整備は必要だが、それだけで止められるのか

うちの10歳の子供に「ホリエモンAIが学校で流行っている」と聞き、驚きと同時にちょっとした怖さを感じた。堀江さんはOKしているが、許可してない人がAIにいじられ、映像を作られたらたまったもんじゃないだろう。

今回、生成AIによる肖像や声の無断利用に対して、国が法整備に動きだしたというニュースを見て、ようやくここまで来たかと思う一方、正直、少し違う怖さも感じている。法で縛ることによって守られるものは確実にある。クリエイターの権利もそうだし、勝手に顔や声を使われる人たちを守る意味でも、ルールは必要だろう。その一方で、僕が引っかかっているのは、AIという存在がそもそも「人間が作ったルールの中で収まるものなのか」という点だ。

AIは、これから確実に人間の知能を超えていくといわれている。少なくとも、情報処理能力やパターン認識においては、すでに人間よりもはるかに速く、そして正確だ。そうなったとき、何が起きるか。法律の条文や過去の判例、あらゆるグレーゾーンの事例を学習し尽くしたAIが、「違法ギリギリのライン」を設計することは、むしろ得意分野なんじゃないかと思う。

例えば肖像権。完全に同じ顔ならアウトだが、少しパーツを変え、似た別人と言い張れるラインをAIが無限に試行錯誤して導き出すことも余裕だろう。声も同じだ。誰もが「あの人だ」と感じてしまう絶妙な似せ方を作ることもできるだろう。一番の問題は、法の穴を抜けて生成していくことが「得意になる」ことだと思う。しかもそれは、常にアップデートされていく。

AIは「違法ギリギリ」を設計する存在になる

今回のように人間が法律を整備すればするほど、「穴」の形が明確になり、AIはそこを突く方法を瞬時に考え始める。人間がルールを作り、AIがそのルールを解析、最適化して抜け道を見つける。そのスピード勝負になったとき、果たして人間は追いつけるのか。もちろん、だからといって法整備が無意味だとは思わない。むしろ絶対に必要だが、その前提として「AIはルールの外に出る存在かもしれない」という視点を持つべきだろう。法律を作った瞬間から突破される前提で考えるべき時代に入っている。

人間が作ったルールすら、素材として使いこなす。そこに対して、僕たちはどう向き合うのか。守るための法律と、それを超えてくる知能。そのいたちごっこの中で、本当に守るべきものは何なのかを、いま一度ちゃんと考えないといけない気がしている。

＜文／鈴木おさむ＞

【鈴木おさむ】
すずきおさむ●スタートアップファクトリー代表　1972年、千葉県生まれ。19歳で放送作家となり、その後32年間、さまざまなコンテンツを生み出す。現在はスタートアップ企業の若者たちの応援を始める。コンサル、講演なども行っている