【今日の一冊】AIの仮面を剥いでやる

レビュー監視カメラの映像を「証拠」に誤認逮捕されたアフリカ系男性。履歴書に「女性」と書いてあるだけで評価を下げる採用ＡＩ。指紋認証や顔認識のミスは、統計的に排除できないリスクである。ＡＩが市民の監視に使われ、巻き込まれてしまう事象も、現に起きている。著者のブオラムウィニ博士は、ＭＩＴのメディアラボで研究を重ねるなか、「男性のまなざし」「白人のまなざし」ならぬ、「コード化されたまなざし」と出会う。白い仮面をつけた状態では作動した顔追跡ソフトが、“色の濃い”著者の素顔を認識できなかったのだ。すなわち、「テクノロジーを作る力を持つ者の優先順位や好み、そして偏見が、どのように差別や排除などの弊害を広げうるか」ということである。なかば無意識的に、テクノロジーには偏見が組み込まれてしまう。本書は、その「コード化されたまなざし」を自伝的エピソードの集積で描き出したものである。ＡＩは経済的な可能性以上に、さまざまな危険をもたらしている。テクノロジーについての適切な未来への道を開くには、「コードから排除される」経験を知る人たちの声を集めなくてはならない。そうして、「ＡＩの作り方を変えて、人道に反する部分を極小化することはできる」。著者はその最先端で闘いつづけている。「効率化を約束するＡＩが準備不足のまま導入されると、不平等が自動的に広がってしまう恐れがある」「様々な解放運動で獲得してきた成果が損なわれるのを、私たちは黙って見ているわけにはいかない」。奮い立たせられる言葉だ。本書の要点・ＭＩＴメディアラボのチームでつくった「アゲアゲビートの壁」は、「肌の色が薄い顔をした人に対して最もうまく動いた」。「コード化されたまなざし」の問題は残りつづけていた。・ＡＩの規範に挑戦するため、「アルゴリズム・ジャスティス・リーグ」を立ち上げる。その活動のなかで、「テクノロジーに潜む有害な差別を研究するという目的」を明確化していく。・顔認識システムに使用されるデータセットは、肌の色が薄い人や男性に大きく偏っている。ゴールドスタンダードには「権力の影が宿っている」。・マイクロソフトやＩＢＭのような企業の顔認証システムでも、色の濃い顔の女性では正解率が著しく低下した。フライヤーでは、話題のビジネス・リベラルアーツの書籍を中心に毎日1冊、10分で読める要約を提供（年間365冊）しています。既に3,300タイトル以上の要約を公開中です。exciteニュースでは、「要約」の前の「レビュー」部分を掲載しています。

【今日の一冊】AIの仮面を剥いでやる

トピックス

経済ニュースランキング

このカテゴリーについて