0

「差別するAI」は無知なだけ? 批判より啓蒙を

2018年8月18日 17時00分
総合学術雑誌・ネイチャーは、人工知能AI)による性差別や人種差別が深刻な社会問題として浮上しているとし、コンピュータエンジニアがこれを正す必要があると警告した。AIの学習にはさまざまデータが使用されるが、その際、特定の性別・民族・文化を代表するものに偏ってしまい、人間社会の不平等が機械に反映され始めているとする。

AIによる差別」として取り上げられている事例のひとつに、ニコン製カメラに搭載されたAIソフトウェアのケースある。

AIは、被写体が目をつむったり、瞬きするたびに警告してくれるという便利な機能を提供している。だが、東洋人が被写体になった際に警告数が多いとして問題とされた。東洋人は他の人種に比べて目が小さいため、人工知能が「目をつむっている」と誤って判断してしまうというのだ(筆者が被写体になろうものならば、警告が止まらないかもしれない)。

文章内の単語の関係性を把握する「ワードエンベディング」というAI技術も、差別論争にさらされている。ヨーロッパ系アメリカ人の名前は「楽しい」に関連する単語とひもづけられる一方、アフリカ系アメリカ人の名前は 「不快」に関する単語とつなげられる傾向があるという指摘がある。

画像を分類に使用されるアマゾンのクラウドワーキングプラットフォーム「アマゾンメカニカルターク」にも問題が指摘された。例えば、アメリカの花嫁&結婚式の写真をアップロードすると「ドレス」「女性」「結婚」などとひもづけられるのに対し、北インド地域の結婚式および花嫁の写真は「行為芸術」「コスチューム」と関連づけられるそうだ。

注: この記事は配信日から2週間以上経過した記事です。記事内容が現在の状況と異なる場合もありますのでご了承ください。

「「差別するAI」は無知なだけ? 批判より啓蒙を」のコメント一覧 0

コメントするニャ!
※絵文字使えないニャ!