2025年2月、ニューヨーク・マンハッタンのイースト17丁目にあるマンションで起きた事件をきっかけに、NYPDが導入する顔認識技術の危うさが露呈した。
容疑者として浮かび上がったのは、ブルックリン在住の36歳の男性で、身長や体格が目撃証言とまったく異なるにもかかわらず、誤認逮捕されたのだ。
犯行の時間帯に、彼が数km離れた場所にいたという、スマートフォンの位置情報も無視され、2日間の勾留を経た末に、男性はようやく釈放された。
だが、冤罪にせよ一度逮捕されたという事実は、彼の心はもちろん、人生にも大きな影を落としてしまっている。
体格も違うし現場にもいなかった。なのに顔認証で逮捕される
2025年2月10日、マンハッタン・イースト17丁目のユニオンスクエア近くにあるマンションの住人女性が、廊下をうろついている男に気づいた。
男は下半身を露わにしており、女性が悲鳴を上げると、そのまま逃走したという。女性によると、犯人は身長約168cmくらい、体重は約73kgくらいの黒人男性とのことだった。。
この証言や、防犯カメラに写った解像度の荒い映像をもとに、NYPDの顔認識システムはトレヴィス・ウィリアムズ氏を犯人候補としてリストアップした。
だがウィリアムズ氏の身長は188cm、体重は104kgで、黒人で髭を生やしている以外の共通点は見当たらない。
しかも事件発生時、彼はコネチカット州にある職場から、ブルックリンの自宅へと帰宅途中であり、現場から数km近く離れた場所を運転中だったことが、スマートフォンの位置情報で判明した。
にもかかわらず、彼は4月のある日、地下鉄で警官に呼び止められ、その場で逮捕された上2日間にわたって身柄を拘束された。
最終的に、弁護団が身体的特徴の不一致や位置情報を提示し、ウィリアムズ氏への起訴は取り下げられたが、それは7月に入ってのことだったという 。
本当に腹が立って、ストレスでいっぱいです。彼らが捜していた男は、私より約20cmも背が低く、約32kgも体重が軽いんですよ。
自分は何もしていないのに、性犯罪者として登録されてしまったらと思うと、今もそんな不安が頭から離れません
ウィリアムズ氏は、犯人と自分との共通点は、黒人で髭を生やしていることだけだと言い、今も悔しさを隠せずにいる。
顔認証と写真での面通しによる「思い込み」が冤罪を招いた
実はNYPDでは2011年から顔認識技術を活用している。2007年から2020年にかけて、最先端の監視ツールを次々と導入。かかった費用の総額は、28億ドル（約4兆1,210億円）以上になるという。
今回の誤認逮捕を受け、NYPDは声明で「顔認識はあくまで捜査の手がかりであり、単独で逮捕の根拠にはしない」と主張した 。
同局のパトロールガイドでも、顔認識は「捜査上の手がかり」に過ぎず、逮捕に至るには追加の裏づけが必要だと明記されている 。
ところが実際には、被害者への写真を使った面通しにおいて、ウィリアムズ氏が誤って同定され、逮捕に直結したことが報じられている 。
実は事件の数か月前に、ウィリアムズ氏は無関係の軽犯罪で、一度逮捕されていて、彼のマグショット（逮捕時の顔写真）が警察のシステム内に残っていた。
今回の事件の捜査で、顔認識システムがそのマグショットを「犯人候補」として提示。捜査官が被害者に見せる面通しの写真に、その一枚を加えることに。
そして顔認識システムが選び出した人物ということで、被害者も捜査官もウィリアムズ氏が犯人だという先入観にとらわれてしまった。
つまり、制度上は「顔認識だけでは逮捕しない」とされながら、実際は候補の提示がそのまま決定的な証拠のように扱われたことになる。
AIによる顔認証システムに頼る危険性を懸念する声
ウィリアムズ氏の代理人を務める、リーガル・エイド・ソサエティの弁護士ダイアン・アッカーマン氏は、今回の誤認逮捕について次のように強いトーンで反論した。
この事件は非常に容易に、従来の捜査手法で解決できたでしょう。少なくとも、ウィリアムズ氏がこのような目に遭うことは避けられたはずです。
リーガル・エイド・ソサエティは、過去5年間で少なくとも7件の顔認識システムによる誤認逮捕を把握しているとし、全面禁止を含む厳しい規制を求めた。さらに市監察官や市議会にも正式な調査要請を提出している。
NYPDを含む誰もが、顔認識技術が信頼できないことを知っています。それにもかかわらず、NYPDは自ら定めたプロトコルさえ無視しているんです。
この技術を信頼して警察に任せるなど到底できません。議員らは今すぐ警察による利用を禁止する行動を取るべきです
また、監視技術の監督を行う団体S.T.O.P.も声明を発表し、事件時にコネチカットから移動中であった事実や体格差を無視して逮捕に至ったことを強く批判した 。
顔認識はニューヨーカーの市民的権利を脅かすだけでなく、安全そのものをも損ないます。
今日私たちが知っているのはこの1件だけですが、この技術で逮捕された他の何千人ものニューヨーカーの中に、どれほど多くの人が誤って告発されたのかは全くわかりません。
NYPDがこれほど欠陥のある顔認識の結果を使うつもりなら、自分たちのアルゴリズムをきちんと管理できるなどと、どうして信じられるでしょうか
欠陥を補う二重三重の安全策が必要
顔認識システムによる誤認逮捕は、少なくとも全米で10件発生しているという。そのほとんどは、ウィリアムズ氏のような有色人種だったそうだ。
例えば2022年には、デトロイトで顔認識システムにより黒人男性が逮捕された。この男性は、犯行時に現場にいなかったことを証明するまで、1か月以上拘束された上、殺人未遂の罪で起訴されたという。
米国国立標準技術研究所（NIST）は、顔認識システムは99.9％の精度で顔写真との照合が可能だとしている。
ただしこれは、写真が鮮明な場合に限られる。画像がぼやけていたり、暗かったり、斜めから撮影されていたりすると、制度は著しく下がるのだ。
現在、アメリカの一部の都市では、顔認証システムの称号手続きに安全策が組み込まれている。
例えばデトロイトとインディアナでは、指紋やDNAなどの裏付けとなる証拠がない限り、顔認証システムで一致しても、写真の照合に含めることはできない。
だがニューヨーク市では、このような規制は行われていなかったという。
誤認逮捕で転職活動も休止状態に
不起訴となったとはいえ、ウィリアムズ氏の生活への影響は続いている。実はウィリアムズ氏は、自閉症患者の支援施設で働いていた。
そして誤認逮捕が起きたのは、彼が現在の職場から、ライカーズ刑務所の矯正官に転職するための手続きが進んでいた矢先のことだったのだ。
ライカーズ刑務所とは、ニューヨーク市のメインの刑務所であり、イースト川に浮かぶライカーズ島にあることからこう呼ばれている。
彼はここでの矯正官としての採用手続が、今回の事件のせいで凍結されてしまったと証言している。
誤認逮捕の件は法的には撤回されたとしても、ウィリアムズ氏の経歴や信用に残る傷跡は深く、完全な回復には至っていない。
この事件を受け、インターネットにはさまざまな議論が起こっている。
- 別に新しいことじゃない。NYPDの通常の手順だ
- 性犯罪関連の容疑なんて、刑務所に入るときに記録に残っていたら最悪だ。もし間違った囚人に知られていたら、本当に危険なことになっていた
- 誤認逮捕されたのに、囚人を監視する矯正官になろうとしてたなんて皮肉だな
- もし人種差別的なAIなら、それはAIも人種差別的ってことだろ？
- 顔認識は間違いをしない。彼の経歴を掘り下げれば、どうせ前科が出てくる。iPhoneですら、よく似た人を何百万人も区別できるのに、なぜこれが違うはずがある？
- ロンドンでも同じことが起きた。すぐに誤認だと分かって釈放されたけど。顔認識システムはAIを使っていても黒人や茶色の肌の人を区別できないんだよ
- 今になってようやく、黒人を見分けられないってことを過剰に意識してる。もう十分だろ
- やっぱり黒人が犠牲になったよね。顔認識は黒人を定期的に誤認するのに、NYPDは平気で使うんだ。
そして間違って黒人を捕まえても、「システムがそう言ってるから間違いじゃない」って言うんだよ- 自分も顔認識サイトを試してみたけど、アフリカ系アメリカ人や眼鏡をかけた人、太った人、アジア人に弱いみたい
- それは法執行機関の規格に準拠してない一般向けサイトだろ。公務用はもっと正確だ。連邦レベルや公共での利用では、全ての肌の色で99.5%以上の精度を満たさないと使えない
- NIST（米国国立標準技術研究所）の評価プログラム準拠なら、確かにもっと精度が高いんだろうね
- 自分の捜査官としての経験から言えば、顔認識技術は非常に有用で、容疑者を特定するのに役立ってきた。ただし逮捕の根拠としては使えない。だから今回も面通しが行われた。こういう事件は担当したことはないが、一般的に単なる目撃証言で逮捕の相当理由が成立するとは思えない。他の手がかりを追うべきだったし、そこを怠ったことに驚いている。問題は顔認識そのものではなく、調査の不十分さだと思う
- これだけが正しいコメントだ。顔認識は警察だけでなく生活のあらゆる場面で広く使われている。使わない方がむしろ無駄だ。今回の誤りは、被害者が間違った人物を指したこと、そしてずさんな捜査にある。技術自体は単なる道具に過ぎない
- ニューヨーク州では顔認識だけで逮捕の相当理由にはならない。
必ず他の証拠が必要で、面通しも事件を知らない別の警官が行って偏りを避ける仕組みになっている。目撃者は検察にとって最良の証人ではあるが、人間の記憶は曖昧で、知らないことを無意識に補ってしまうことが多い。そして、今回の報道も被告側の視点で語られているから、事実が都合よく加工されている可能性もある- 警官が逮捕にChatGPTを使ってるみたいだ。ちゃんと仕事しろよ、悲しい話だ
今回の事件は終結したが、ウィリアムズ氏は今も、また逮捕されるのではないかという不安を感じているという。
100％でなければ、使用すべきではありません。多くの人が結局、刑務所に入ったり、やっていないことで汚名を着せられたりすることになるからです。
私は今も時々、パニック発作を起こしそうになるんです。
こう語るウィリアムズ氏は、現在支援者らと共に、NYPDに対する法的措置を検討しているそうだ。
