南カリフォルニア大の研究者が社会心理学を利用してAIの偏見を発見する!

       

社会システムに組み込まれ、重要な判断や評価に活用されるAIだが、ラベル付けする人や選別するデータセットの持つ偏見が、予測にそのまま反映されてしまうことがわかっている。

南カリフォルニア大学の研究者は、2つの研究でヘイトスピーチの検出とヘイトクライム(偏見がらみの事件)発生件数の予測にひそむ罠を明らかにした。

社会心理学の理論を用いてラベル付けでの偏見をあらわに

TwitterFacebookでは、投稿にヘイトスピーチが含まれているか検出するためにAIの力を借りている。このプロセスは、タイムラインへのレコメンド表示や投稿の削除なんかの判断にも影響するものだ。

研究者は、社会心理学の理論「ステレオタイプ内容モデル(SCM)」を適用してヘイトスピーチへのラベル付けに潜む偏見をあぶりだした。このモデルでは、集団に対する先入観が、その人柄と能力にもとずいて形成されると仮定している。

分析の結果、ある集団について、能力が高く人柄が良くないと認識されたとき、人はテキストをヘイトスピーチとしてラベル付けする可能性は低くなり、能力が低く人柄が良いと認識されたときには、ヘイトスピーチとしてラベル付けする可能性が高くなる傾向が明らかになった。

選別するデータで予測に差が出る

また研究者は以前の研究で、AIとイベント抽出手法を組み合わせてヘイトクライムの発生件数を予測している。その際、ただただAIでデータを分析するだけでなく、より正確な予測を行うべくデータの選別を意識した。


当時の記事を読む

Techableの記事をもっと見る

トピックス

今日の主要ニュース 国内の主要ニュース 海外の主要ニュース 芸能の主要ニュース スポーツの主要ニュース トレンドの主要ニュース おもしろの主要ニュース コラムの主要ニュース 特集・インタビューの主要ニュース

もっと読む

トレンドニュース

トレンドランキングをもっと見る

コメントランキング

コメントランキングをもっと見る
2020年9月17日のIT記事

キーワード一覧

このカテゴリーについて

最新IT業界情報やiPhoneやAndroidやガジェット、話題のサービス、IoT情報、スタートアップにまつわるニュースをお届け中。

通知(Web Push)について

Web Pushは、エキサイトニュースを開いていない状態でも、事件事故などの速報ニュースや読まれている芸能トピックなど、関心の高い話題をお届けする機能です。 登録方法や通知を解除する方法はこちら。