SHOWROOMが誹謗中傷コメントの監視AIを開発 遠回しな言い方も検知

記事まとめ

  • HOWROOMは誹謗中傷コメントを監視するAIを開発。
  • 仮想ライブ空間「SHOWROOM」に新機能として搭載した。
  • 遠回しな言い方や悪質なコメントも検出することに成功している。

SHOWROOM、誹謗中傷コメントの監視AIを開発 “遠回しな言い方”でも検知して自動通報

SHOWROOM、誹謗中傷コメントの監視AIを開発 “遠回しな言い方”でも検知して自動通報
新機能のイメージ図
 SHOWROOMは2月22日、誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表した。不適切なコメントをユーザーの代わりにAIが通報する。

 新たに開発したコンテンツモデレーションAI機能では、ユーザーの代わりに悪質なコメントをAIが検知する。AIの開発にはディープラーニングを応用し、従来のキーワードによる検出ではなく、コメントの文脈をニューラルネットワーク上で抽象化する。

 同社の開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」という。これにより、コメントの悪質性をAIが即時に判断でき、将来的には投稿前に自動削除することもできるという。

 これまでは視聴者や配信者自身が通報し、運営側の監視チームが削除する流れだった。同社は「不快なコメントを、ライバーや別の視聴者が目にする機会を大幅に軽減できる」としている。

 同社の開発チームは「コンテンツモデレーションの世界では、英語や中国語に対しての研究はされているものの、日本語での研究はほとんどないのが実態だった」と説明。AIが悪質コメントを事前に察知し、投稿前に削除する機能は、日本初(同社調べ)といい、特許を出願中。

 同社は「最終的には『SHOWROOM』内で、 悪質コメントの100%排除に限りなく近くなることを目指す」とコメントしている。

【訂正:2021年2月24日午後3時45分 記事初出時、AIの機能を誤って記載していました。投稿の自動削除は現時点では実装されておりません。訂正してお詫びいたします。】

あわせて読みたい

ITmedia NEWSの記事をもっと見る

トピックス

今日の主要ニュース 国内の主要ニュース 海外の主要ニュース 芸能の主要ニュース スポーツの主要ニュース トレンドの主要ニュース おもしろの主要ニュース コラムの主要ニュース 特集・インタビューの主要ニュース
「SHOWROOM、誹謗中傷コメントの監視AIを開発 “遠回しな言い方”でも検知して自動通報」の みんなの反応 217
  • 匿名さん 通報

    ↓ここは原発の記事じゃないぞ?頭のおかしい奴がいるな

    0
  • 匿名さん 通報

    コメントネットワーキングサービスと化したSNSを科学が駆逐。投稿などから判別した精神年齢やIQをアカウント横に記載し,クリックすれば削除に至るような蛮行を照会できるAIを開発。

    0
  • 匿名さん 通報

    ついでにウヨクサヨクパヨクネットウヨだのご自慢馬鹿を理学がバイアスリベラルナチュラル等解析し認定。お前ら全員バイアスにしかならんゴミはリベラルナチュラルアカデミックへ投稿規制

    0
この記事にコメントする

もっと読む

トレンドニュース

トレンドランキングをもっと見る

コメントランキング

コメントランキングをもっと見る
2021年2月22日のIT記事

キーワード一覧

このカテゴリーについて

最新IT業界情報やiPhoneやAndroidやガジェット、話題のサービス、IoT情報、スタートアップにまつわるニュースをお届け中。

通知(Web Push)について

Web Pushは、エキサイトニュースを開いていない状態でも、事件事故などの速報ニュースや読まれている芸能トピックなど、関心の高い話題をお届けする機能です。 登録方法や通知を解除する方法はこちら。