“知らない”と判断することが苦手なAIモデル。パナソニックが「知ったかぶり誤認識」を防ぐ技術を開発

パナソニック ホールディングス株式会社とPanasonic R&D Company of Americaは、AIの「知ったかぶり誤認識」を防ぐ技術を開発したことを発表した。AIモデルが学習していない「本質的に認識ができない」物体を「未知物体」として認識し、信頼性が高まることにつながるという。

画像認識AIの1つ「セマンティックセグメンテーション」モデルは、画像の中である領域が何の物体なのかを“画素レベル”で推定する技術。代表的なAIモデルには「DeepLabV3+」や「SegFormer」があり、モビリティや製造や医療などの幅広い領域で欠かせないAI技術となっている。

だが、存在する全ての物体を事前に学習させることは不可能。そのような“学習”のデータに存在しない未知の物体に遭遇した際には、既知のものへと無理やり当てはめてしまう。それは認識性能の低下や予期せぬ誤検知につながるため、大きな課題となっている。

未知の物体に誤ったラベルが無理やり振られてしまう例。上段では未学習の「ビールケース」が車（紺色）や道路（紫）、同様に下段では「犬」も木（緑）や道路（紫）として誤認識されている。特に車載カメラに実装されるAIモデルでは、重大な自己にもつながりかねない未知の物体は「未知」と推定できる技術が必要。そのような背景から開発されたのが「知ったかぶり誤認識」を防ぎ、AIモデルであっても「知らないものは知らない」としっかり判断するような今回の新技術だ。

具体的には、AIモデルが認識結果にどれくらい自信を持っているかの「不確実性」を推定するフローベースの生成モデル「FlowEneDet」が開発された。逆変換が可能な関数の合成として、複雑な分布を表現することが可能。学習した物体の分布を正確にモデリングでき、「学習した既知の物体」と「学習していない未知物体や誤分類」が分離される。

この「FlowEneDet」を通常の「セマンティックセグメンテーション」モデルの後ろに追加することで、「認識結果の不確実性」を推定できる状態へと拡張が可能。時間のかかる「セマンティックセグメンテーション」モデル側の再トレーニングを必要とせずに使える。

「FlowEneDet」を追加した「セマンティックセグメンテーション」モデル実際に、複数（Cityscapes、Cityscapes-C、FishyScapes、SegmentMeIfYouCan）のベンチマークデータセットに対して、未知の物体や誤分類の認識性能評価を実施した結果、従来法を上回る認識結果が達成されたそうだ。この技術は国際的にも先進性が認めらられ、AI・機械学習技術のトップカンファレンスである「UAI2023（The Conference on Uncertainty in Artificial Intelligence）」にも採択された。

公開された評価結果の一例。赤色は未知の物体または誤分類、青色は既知の物体、そのほかの色は未知か既知か判定できていない領域を表している現時点では「AIは便利だが完璧ではない」というのは、実際にAIを活用しているユーザーの多くが感じていることだろう。専門的な分野でなくとも、たとえばChatGPTが「あたかも正解であるかのように事実と異なる回答を作り出すことが多い」のは周知の事実であり、画像生成AIも「指示とは異なるテキトーな画像」を生成するケースは多い。

今回の「FlowEneDet」がコンシューマーレベルですぐに必須の知識であるかと言われれば決してそうではない。だが、急速に日常へと浸透してきた「AI」を考えるうえで非常に重要なトピックと言える。

パナソニック ホールディングス株式会社
URL：https://holdings.panasonic/jp/

2023/08/07