从激励理解卷积神经网络
计算机视觉与模式识别
2024-01-17 v3 机器学习
摘要
显著图已被证明是解释卷积神经网络决策的一种极有效方法。然而，现有方法主要依赖梯度，这限制了其解释复杂模型的能力。此外，此类方法未能充分利用负梯度信息以提升解释准确性。在本研究中，我们提出一个新概念，称为正激励与负激励，其能直接提取每一层的正、负激励，从而实现无需梯度的完整逐层信息利用。为将这些激励组织为最终显著图，我们引入了一种双链反向传播过程。我们进行了涵盖二分类与多分类任务的全面实验评估，以衡量所提方法的有效性。令人鼓舞的是，结果表明在显著像素移除、次要像素移除以及不显眼对抗扰动生成引导方面，我们的方法相较最先进方法均有显著提升。此外，我们验证了正激励与负激励之间的相关性。
引用
@article{arxiv.2205.00932,
title = {Understanding CNNs from excitations},
author = {Zijian Ying and Qianmu Li and Zhichao Lian and Jun Hou and Tong Lin and Tao Wang},
journal= {arXiv preprint arXiv:2205.00932},
year = {2024}
}