基于反向传播可视化的诡异行为之理论解释
计算机视觉与模式识别
2020-02-17 v4 人工智能
摘要
基于反向传播的可视化方法已被提出用于解释卷积神经网络（CNN），然而缺乏理论来佐证其行为：引导式反向传播（GBP）与反卷积网络（DeconvNet）生成比显著图更具人类可解释性但类敏感性更弱的可视化。受此启发，我们发展了一种理论解释，揭示 GBP 与 DeconvNet 本质上在进行与网络决策无关的（部分）图像复原。具体而言，我们的分析表明 GBP 与 DeconvNet 引入的反向 ReLU，以及 CNN 中的局部连接，是产生引人注目可视化的两个主因。我们提供了大量支持该理论分析的试验。
引用
@article{arxiv.1805.07039,
title = {A Theoretical Explanation for Perplexing Behaviors of Backpropagation-based Visualizations},
author = {Weili Nie and Yang Zhang and Ankit Patel},
journal= {arXiv preprint arXiv:1805.07039},
year = {2020}
}
备注
21 pages, ICML 2018 (We revised the proofs of Theorem 1 and 2 in Appendix)