通过对比反向传播理解 CNN 的单个决策
计算机视觉与模式识别
2019-09-04 v2
摘要
许多基于反向传播的方法，如 DeConvNets、原始梯度可视化和引导反向传播，已被提出以更好地理解深度卷积神经网络的单个决策。它们产生的显著图被证明是非判别性的。最近，层-wise 相关性传播（LRP）方法被提出用于解释整流神经网络分类决策。在本工作中，我们评估所生成解释的判别性并分析 LRP 的理论基础，即 Deep Taylor Decomposition。实验与分析得出结论：LRP 生成的解释不具有类别判别性。基于 LRP，我们提出对比层-wise 相关性传播（CLRP），其能够生成实例特定、类别判别性、逐像素的解释。在实验中，我们使用 CLRP 解释决策并理解单个分类决策中神经元之间的差异。我们还通过 Pointing Game 和消融研究对解释进行定量评估。定性与定量评估均表明 CLRP 生成比 LRP 更好的解释。代码已公开。
引用
@article{arxiv.1812.02100,
title = {Understanding Individual Decisions of CNNs via Contrastive Backpropagation},
author = {Jindong Gu and Yinchong Yang and Volker Tresp},
journal= {arXiv preprint arXiv:1812.02100},
year = {2019}
}
备注
16 pages, 5 figures, ACCV