信頼できるAIの実現を目指してパナソニックHD、AIモデルが学習していない物体の「知ったかぶり誤認識」を防ぐAI技術を開発

Panasonic × AI logo

パナソニックホールディングス株式会社とPanasonic R&D Company of Americaは、AIモデルが学習しておらず「本質的に認識ができない」物体を「未知物体」として認識し、画像認識AIモデルの信頼性を高める技術を開発しました。

画像認識AIモデルは事前に学習させた対象に対しては高い認識率を誇りますが、実環境のすべての物体を画像認識AIモデルにあらかじめ学習させることは困難です。そのため実際の利用環境では、AIモデルにとって未知の物体に直面することは避けられません。一方、AIモデルは「知らない」と判断することが苦手です。モデルが知っている範囲で無理やり認識し「知ったかぶる」ことが、予期しない誤動作にもつながりかねないことが近年AIの社会実装の進展に伴い、大きな課題となってきました。

AIの信頼性を高める技術に注目が集まる中、画像認識結果が「どれくらい信頼できるのか（不確実性）」を推定可能な生成モデルを、画像認識モデルの後段に追加することで、「未知物体」に付与された誤ラベルを棄却し、本質的に認識が可能な学習済の物体のみを正しく認識できるようにする技術FlowEneDetを開発しました。本手法は学習済の画像認識AIモデルの後段に追加するだけで簡単に拡張でき、高速に動作することが特徴です。今後、AIの信頼性が求められる車載やくらし、B2Bなどの様々なユースケースでの活用が期待されます。

本技術は、先進性が国際的に認められ、AI・機械学習技術のトップカンファレンスであるUAI2023（The Conference on Uncertainty in Artificial Intelligence）に採択されました。2023年7月31日から2023年8月4日まで米国ピッツバーグで開催される本会議で発表します。

全文は以下プレスリリースをご覧ください。

▼[プレスリリース]信頼できるAIの実現を目指してパナソニックHD、AIモデルが学習していない物体の「知ったかぶり誤認識」を防ぐAI技術を開発（2023年7月28日）

信頼できるAIの実現を目指してパナソニックHD、AIモデルが学習していない物体の「知ったかぶり誤認識」を防ぐAI技術を開発 | 技術・研究開発 | 技術・研究開発 | プレスリリース

パナソニックホールディングス株式会社およびその海外関連会社であるパナソニックR&Dカンパニーオブアメリカは、 AIモデルが学習しておらず「本質的に認識ができない」物体を「未知物体」として認識し、画像認識AIモデルの信頼性を高める技術を開発しました。

＜関連情報＞

・発表論文 “Concurrent Misclassification and Out-of-Distribution Detection for Semantic Segmentation via Energy-Based Normalizing Flow”

Concurrent Misclassification and Out-of-Distribution Detection for Semantic Segmentation via Energy-Based Normalizing Flow

Recent semantic segmentation models accurately classify test-time examples that are similar to a training dataset distribution. However, their discriminative cl...

・Official PyTorch code for UAI 2023 paper “Concurrent Misclassification and Out-of-Distribution Detection for Semantic Segmentation via Energy-Based Normalizing Flow”