Deep Learning
Detection
口頭発表
アテンションマップを用いたKS検定によるデータのドリフト検知
- Author
- 新田常顧, 史宇植, 平川翼, 山下隆義, 藤吉弘亘
- Publication
- 画像センシングシンポジウム, 2023
Download: PDF (Japanese)
データのドリフトとは、機械学習モデル運用中に入力データの分布が変化することである。これはデータの種類に関係なく発生し、モデルのパフォーマンスに悪影響を及ぼす。しかし、従来の手法では、2標本検定の出力分布の違いからドリフト検出結果を分析することしかできず、ドリフトによる機械学習モデルの予測性能の実際の劣化を分析することはできない。我々は，クラス確率に加えてモデルが実際に注視している局所領域の変化に対するドリフトを検出することで、精度が向上すると考えている。そこで本研究では、画像分類における判断根拠を可視化できるAttention Branch Network (ABN)に基づくドリフト検出法を提案する。本手法では、ABNを構成するAttention branchとPerception branchが出力するクラス確率とアテンションマップを用いてドリフトを検出する。その結果、ドリフト検出にクラス確率に加えてアテンションマップを導入することで、検出率が向上することがわかった。また、アテンションマップはドリフトに伴って縮小する傾向が見られた。