Integrated Grad-CAM：基于积分梯度的评分实现深度卷积网络敏感性感知视觉解释
计算机视觉与模式识别
2021-02-17 v1
摘要
可视化卷积神经网络（CNNs）所捕获的特征是在众多图像识别应用中解释这些模型预测结果的常规方法之一。Grad-CAM 是一种流行的解决方案，它通过组合从模型获得的激活图来提供此类可视化。然而，该方法中所采用的基于平均梯度的项低估了模型所发现的表征对其预测的贡献。针对这一问题，我们引入了一种通过计算机 Grad-CAM 中基于梯度的项的路径积分来解决此问题的方案。我们进行了深入分析，以证明我们的方法在度量 CNN 预测所提取表征的重要性方面所取得的改进，这导致了我们的方法在目标定位与模型解释中的应用。
引用
@article{arxiv.2102.07805,
title = {Integrated Grad-CAM: Sensitivity-Aware Visual Explanation of Deep Convolutional Networks via Integrated Gradient-Based Scoring},
author = {Sam Sattarzadeh and Mahesh Sudhakar and Konstantinos N. Plataniotis and Jongseong Jang and Yeonjeong Jeong and Hyunwoo Kim},
journal= {arXiv preprint arXiv:2102.07805},
year = {2021}
}
备注
5 pages, 3 figures Accepted in 2021 IEEE International Conference on Acoustics, Speech, and Signal Processing (ICASSP 2021)