Abs-CAM：一种用于卷积神经网络解释性的梯度优化可解释方法
计算机视觉与模式识别
2022-07-11 v1 人工智能
机器学习
摘要
深度神经网络(DNNs) 的黑盒特性严重阻碍了其性能提升与在特定场景中的应用。近年来，基于类激活映射的方法被广泛用于解释计算机视觉任务中模型的内部决策。然而，该方法利用反向传播获取梯度时，会在显著图中引入噪声，甚至定位与决策无关的特征。本文提出一种基于绝对值类激活映射(Abs-CAM)的方法，其对反向传播所得梯度进行优化并将全部转为正梯度，以增强输出神经元激活的视觉特征，并改善显著图的定位能力。Abs-CAM 框架分为两阶段：生成初始显著图与生成最终显著图。第一阶段通过优化梯度提升显著图定位能力，第二阶段将初始显著图与原图线性结合以增强显著图的语义信息。我们对所提方法进行了定性与定量评估，包括 Deletion、Insertion 与 Pointing Game。实验结果表明，Abs-CAM 能明显消除显著图中的噪声，更好地定位与决策相关的特征，并在识别与定位任务上优于以往方法。
引用
@article{arxiv.2207.03648,
title = {Abs-CAM: A Gradient Optimization Interpretable Approach for Explanation of Convolutional Neural Networks},
author = {Chunyan Zeng and Kang Yan and Zhifeng Wang and Yan Yu and Shiyan Xia and Nan Zhao},
journal= {arXiv preprint arXiv:2207.03648},
year = {2022}
}
备注
Abs-CAM for Explanation of Convolutional Neural Networks