顔画像を合成するAI（人工知能）の技術は驚くべき進歩を遂げており、それがこの世に実在しない人物の顔であるとは思えないほどのリアルさだ。
もはや完全に”無気味の谷”を越えたと言えるだろう。
本物の人間の顔とAIが生成した顔の区別がつかず、AI画像の方が信頼感を持たれるという今回の結果を受け、それが悪用されないよう、ガイドラインを定める必要があると、研究者は警鐘を鳴らしている。
本物の人間の顔とAIが生成した顔を見分けられるかを調査 英ランカスター大学のソフィー・ナイチンゲール博士と米カリフォルニア大学バークレー校のハニー・ファリド教授らの研究グループは、 Nvidia社が開発した顔合成AI「StyleGAN2」で生成した顔画像をどのくらい識別できるのか実験した。
実験では、300人以上の参加者に800枚の画像から選んだ128枚の顔を見せ、本物の顔写真と合成画像を区別してもらった。
その結果、正解率は45%だった。つまり、参加者が正しく回答したとしても、偶然正解だったに過ぎず、ほぼ見分けられていないのだ。
次の実験では、まず最初に、200人以上の参加者に顔画像を見分ける訓練を受けてもらった。その上で同じ実験に挑んでもらったが、それでも正解率は59%でしかなかったという。
こうした結果を受け、研究グループは「顔画像生成技術は無気味の谷を越えており、もはや判別不能である」と述べている。
［画像を見る］
誰でも簡単に顔が生成できるジェネレータ / image credit:Generated.photosAIで生成した顔の方が信頼できると評価 私たちは他人の顔をパッと見ただけで、その人が信頼できそうか無意識のうちに判断している。人間の顔には豊富な情報が含まれており、人間はそれを瞬時に読み取れるのだ。
だが、顔合成AIはそうした人間の本能的な能力ですら騙せるようだ。
3つ目の実験では、別の参加者に128枚の顔写真を見せて、その人が信頼できそうかどうか評価してもらった。すると合成された顔は、本物の顔よりも7.7%信頼性が高いと評価されたのだ。
［画像を見る］
上段はもっとも正答率が高かった画像。下段はもっとも正答率が低かった画像。Rは本物の顔、Sは合成顔を表す（Credit: NVIDIA Corporation）なぜ合成顔の方が信頼度が上がるのか？ 顔から感じられる信頼感は、人種や性別にも影響される部分はある。例えば、黒人は、南アジア人よりも信頼できると評価され、女性は男性よりも信頼できるとされる傾向があったが、それほど大きな違いはなかった。
他の可能性としては、笑顔の影響を受けているとも考えられたという。研究グループによると、笑顔だとより信頼感が増す傾向にあるからだ。
しかし今回の実験において、本物の顔で笑顔だったのは65.5%、合成顔では58.8%だった。笑顔の割合が少なかったのだから、合成顔の方が信頼できるとされた理由を笑顔によって説明することはできない。
その理由について、合成された顔はより平均的な顔に近いからではないかと、研究グループは推測する。平均的な顔であるだけで、信頼感が増すのだという。
［画像を見る］
image credit:Generated.photosAI顔画像合成による詐欺被害防止の為のガイドラインの必要性 人間が合成顔を区別できず、あまつさえ信頼感まで感じてしまうという衝撃の結果に、研究グループは”ディープフェイク（AIにもとづく人物画像合成の技術）”による詐欺被害を防ぐための予防ガイドラインが必要だと述べている。
たとえば、画像合成ネットワークに合成である証拠となる電子すかしを組み込むことが考えられる。
また、コードを一般に公開し、どんなアプリにでも組み込めるようにするという、よくある自由放任主義的なやり方も考え直すべきだとしている。
研究者らはこう語る。
『画像･動画、SNSが見れない場合はオリジナルサイト（カラパイア）をご覧ください。』
もはや完全に”無気味の谷”を越えたと言えるだろう。
それどころか、最新の研究によるとAIが生成した顔は、生身の人間よりも信頼できると感じられるという。
本物の人間の顔とAIが生成した顔の区別がつかず、AI画像の方が信頼感を持たれるという今回の結果を受け、それが悪用されないよう、ガイドラインを定める必要があると、研究者は警鐘を鳴らしている。
本物の人間の顔とAIが生成した顔を見分けられるかを調査 英ランカスター大学のソフィー・ナイチンゲール博士と米カリフォルニア大学バークレー校のハニー・ファリド教授らの研究グループは、 Nvidia社が開発した顔合成AI「StyleGAN2」で生成した顔画像をどのくらい識別できるのか実験した。
実験では、300人以上の参加者に800枚の画像から選んだ128枚の顔を見せ、本物の顔写真と合成画像を区別してもらった。
その結果、正解率は45%だった。つまり、参加者が正しく回答したとしても、偶然正解だったに過ぎず、ほぼ見分けられていないのだ。
次の実験では、まず最初に、200人以上の参加者に顔画像を見分ける訓練を受けてもらった。その上で同じ実験に挑んでもらったが、それでも正解率は59%でしかなかったという。
こうした結果を受け、研究グループは「顔画像生成技術は無気味の谷を越えており、もはや判別不能である」と述べている。
［画像を見る］
誰でも簡単に顔が生成できるジェネレータ / image credit:Generated.photosAIで生成した顔の方が信頼できると評価 私たちは他人の顔をパッと見ただけで、その人が信頼できそうか無意識のうちに判断している。人間の顔には豊富な情報が含まれており、人間はそれを瞬時に読み取れるのだ。
だが、顔合成AIはそうした人間の本能的な能力ですら騙せるようだ。
3つ目の実験では、別の参加者に128枚の顔写真を見せて、その人が信頼できそうかどうか評価してもらった。すると合成された顔は、本物の顔よりも7.7%信頼性が高いと評価されたのだ。
［画像を見る］
上段はもっとも正答率が高かった画像。下段はもっとも正答率が低かった画像。Rは本物の顔、Sは合成顔を表す（Credit: NVIDIA Corporation）なぜ合成顔の方が信頼度が上がるのか？ 顔から感じられる信頼感は、人種や性別にも影響される部分はある。例えば、黒人は、南アジア人よりも信頼できると評価され、女性は男性よりも信頼できるとされる傾向があったが、それほど大きな違いはなかった。
他の可能性としては、笑顔の影響を受けているとも考えられたという。研究グループによると、笑顔だとより信頼感が増す傾向にあるからだ。
しかし今回の実験において、本物の顔で笑顔だったのは65.5%、合成顔では58.8%だった。笑顔の割合が少なかったのだから、合成顔の方が信頼できるとされた理由を笑顔によって説明することはできない。
その理由について、合成された顔はより平均的な顔に近いからではないかと、研究グループは推測する。平均的な顔であるだけで、信頼感が増すのだという。
［画像を見る］
image credit:Generated.photosAI顔画像合成による詐欺被害防止の為のガイドラインの必要性 人間が合成顔を区別できず、あまつさえ信頼感まで感じてしまうという衝撃の結果に、研究グループは”ディープフェイク（AIにもとづく人物画像合成の技術）”による詐欺被害を防ぐための予防ガイドラインが必要だと述べている。
たとえば、画像合成ネットワークに合成である証拠となる電子すかしを組み込むことが考えられる。
また、コードを一般に公開し、どんなアプリにでも組み込めるようにするという、よくある自由放任主義的なやり方も考え直すべきだとしている。
研究者らはこう語る。
今は極めて重要な瞬間です。他の科学技術分野でなされているように、グラフィック・視覚関連コミュニティが、合成技術の作成と配布に関するガイドラインを作成するよう推奨します。それは研究者・出版者・メディア配信者の倫理指針を組み込んだものである必要がありますReferences:AI generated faces are MORE trustworthy than real faces say researchers who warn of “deep fakes” | Lancaster University / written by hiroching / edited by parumo
『画像･動画、SNSが見れない場合はオリジナルサイト（カラパイア）をご覧ください。』
編集部おすすめ
