MACHINE PERCEPTION AND ROBOTICS GROUP

機械知覚&ロボティクスグループ
中部大学

深層学習による物体検出モデルは，自動運転や医療画像解析などの分野で広く利用されているが，その判断根拠はブラックボックスであり，説明性や信頼性の確保が課題となっている．こうした背景から，モデル予測に寄与した領域を可視化する説明可能なAI（XAI）が注目されている．
物体検出向け可視化手法であるODAMはインスタンス単位の説明が可能であるが，単一入力における勾配に依存するため，勾配消失や局所ノイズの影響を受けやすく，理論的保証にも課題がある．
本研究では，ODAMにIntegrated Gradientsを統合し，補間経路全体の勾配情報を利用することで，理論的保証を備えた特徴帰属に基づく可視化手法IG-ODAMを提案する．さらに，補間画像間の検出結果を対応付ける類似度ベースのインスタンスマッチングを導入することで，物体単位の安定した可視化を実現する．
評価実験より，提案手法はGrad-CAM系手法，D-RISE，ODAMと比較して，Deletion / Insertion指標およびユーザ評価の両面で優れた性能を示した．また，補間経路に沿った勾配積分により局所的な勾配変動の影響を低減し，感度の公理および実装不変性の公理を満たす信頼性の高い説明が可能であることを示した．