Deep Learning
解説論文
アテンションマップによる深層学習モデルの判断根拠の可視化
- Author
- 藤吉弘亘, 山下隆義, 平川翼
- Publication
- Medical Imaging Technology, 39 巻, 3 号, p. 110-116, 2021
Download: PDF (Japanese)
画像認識分野において，深層学習は高い認識性能を実現している．しかしながら，深層学習の認識時における判断根拠を人が理解することは困難である．深層学習の判断根拠を解析する手法の一つに，視覚的説明がある．視覚的説明では，認識時にネットワークが注視した領域を，アテンションマップにより可視化できる．アテンションマップを可視化することで，人がAIの判断根拠を理解することができる．また，視覚的説明に用いられるアテンションマップをアテンション機構により認識処理に応用することで，認識性能の向上が可能である．さらに，アテンションマップを人手で調整して学習することで，ネットワークに人の知見を導入することができる．本論文では，視覚的説明によるアテンションマップの可視化およびアテンション機構による判断根拠の解析に関する研究について紹介する．