通过层次化分解深度解释 CNN
计算机视觉与模式识别
2023-10-13 v1
摘要
在计算机视觉中，一些用于解释 CNN 的归因方法试图研究中间特征如何影响网络预测。然而，它们通常忽略了中间特征之间的特征层次结构。本文引入一种层次化分解框架，以自顶向下的方式解释 CNN 的决策过程。具体而言，我们提出一个基于梯度的激活传播（gAP）模块，该模块可将任意中间 CNN 决策分解到其较低层并找出支持性特征。然后我们利用 gAP 模块迭代地将网络决策分解为来自不同 CNN 层的支持性证据。所提框架能够为网络决策生成深度关联的强支持证据层次，从而提供对决策过程的洞察。此外，gAP 无需额外工作即可理解基于 CNN 的模型，无需修改网络架构和额外训练过程。实验显示了所提方法的有效性。代码和交互式演示网站将公开提供。
引用
@article{arxiv.2201.09205,
title = {Deeply Explain CNN via Hierarchical Decomposition},
author = {Ming-Ming Cheng and Peng-Tao Jiang and Ling-Hao Han and Liang Wang and Philip Torr},
journal= {arXiv preprint arXiv:2201.09205},
year = {2023}
}