基于黎曼-斯蒂尔切斯积分梯度的深度网络视觉解释与定位
计算机视觉与模式识别
2022-05-24 v1 人工智能
摘要
神经网络在涉及图像分类与识别的任务上正变得愈发强大。与此同时，旨在解释网络输出的技术也被提出。其中一种技术是梯度类激活图(Grad-CAM)，其能在卷积神经网络(CNN)的各层定位输入图像的特征，但对梯度消失问题敏感。诸如积分梯度(IG)等技术不受该问题影响，但其使用仅限于网络的输入层。本文引入一种新技术，为 CNN 的预测生成视觉解释。与 Grad-CAM 类似，我们的方法可应用于网络任意层；与积分梯度类似，其不受梯度消失问题影响。为提升效率，梯度积分在层级别使用黎曼-斯蒂尔切斯和近似进行数值计算。与 Grad-CAM 相比，我们的算法生成的热图在感兴趣区域上聚焦更好，且其数值计算更稳定。我们的代码见 https://github.com/mlerma54/RSIGradCAM
引用
@article{arxiv.2205.10900,
title = {Visual Explanations from Deep Networks via Riemann-Stieltjes Integrated Gradient-based Localization},
author = {Mirtha Lucas and Miguel Lerma and Jacob Furst and Daniela Raicu},
journal= {arXiv preprint arXiv:2205.10900},
year = {2022}
}
备注
16 pages, 33 figures