Smooth Grad-CAM++：一种用于深度卷积神经网络模型的增强推理级可视化技术
计算机视觉与模式识别
2019-08-06 v1
摘要
深入理解深度卷积神经网络模型如何执行图像分类以及如何解释其输出，一直是计算机视觉研究者和决策者关注的问题。由于对其内部工作机制理解有限，这些深度模型常被称为黑箱。为发展可解释的深度学习模型，已有若干方法被提出，如计算类输出相对于输入图像的梯度（敏感度图）、类激活图（CAM）以及基于梯度的类激活图（Grad-CAM）。这些方法在定位同一类的多个出现时表现不佳，且并非对所有 CNN 都有效。此外，Grad-CAM 在单目标图像上使用时不能完整捕获整个目标，这影响了识别任务的性能。为了生成在视觉清晰度、目标定位以及解释单幅图像中目标多次出现方面均增强的视觉解释，我们提出 Smooth Grad-CAM++\footnote{简单演示：http://35.238.22.135:5000/}，一种结合另两种近期技术——SMOOTHGRAD 与 Grad-CAM++——的方法。我们的 Smooth Grad-CAM++ 技术能够在推理级（模型预测过程）的每个实例上可视化某一层、特征图子集或特征图内神经元子集。经少量图像实验，与其他方法相比，Smooth Grad-CAM++ 生成了视觉上更清晰且对输入图像中目标定位更好的图。
引用
@article{arxiv.1908.01224,
title = {Smooth Grad-CAM++: An Enhanced Inference Level Visualization Technique for Deep Convolutional Neural Network Models},
author = {Daniel Omeiza and Skyler Speakman and Celia Cintas and Komminist Weldermariam},
journal= {arXiv preprint arXiv:1908.01224},
year = {2019}
}
备注
Accepted in the Intelligent Systems Conference 2019