基于公理的 Grad-CAM：面向 CNN 的准确可视化与解释
计算机视觉与模式识别
2020-08-20 v4 人工智能
机器学习
图像与视频处理
摘要
为了更好地理解和使用卷积神经网络（CNNs），CNN 的可视化与解释近年来引起了越来越多的关注。特别是，若干类激活映射（CAM）方法被提出以揭示 CNN 决策与图像区域之间的联系。尽管可视化结果合理，缺乏清晰且充分的理论支撑是这些方法的主要局限。在本文中，我们将两条公理——守恒性与敏感性——引入 CAM 方法的可视化范式。同时，提出了一种专用的基于公理的 Grad-CAM（XGrad-CAM），以尽可能满足这些公理。实验表明，XGrad-CAM 在守恒性与敏感性方面是 Grad-CAM 的增强版本。它能够取得比 Grad-CAM 更好的可视化性能，同时相较于 Grad-CAM++ 与 Ablation-CAM 还具有类别区分性且易于实现。代码见 https://github.com/Fu0511/XGrad-CAM。
引用
@article{arxiv.2008.02312,
title = {Axiom-based Grad-CAM: Towards Accurate Visualization and Explanation of CNNs},
author = {Ruigang Fu and Qingyong Hu and Xiaohu Dong and Yulan Guo and Yinghui Gao and Biao Li},
journal= {arXiv preprint arXiv:2008.02312},
year = {2020}
}
备注
BMVC 2020 (Oral presentation). Code is avaliable at: https://github.com/Fu0511/XGrad-CAM