VisualBackProp：卷积神经网络的高效可视化
计算机视觉与模式识别
2017-05-23 v3
摘要
本文提出了一种名为 VisualBackProp 的新方法，用于可视化输入图像中哪些像素集合对卷积神经网络（CNN）的预测贡献最大。该方法在很大程度上依赖于这样一种直觉：当向网络更深处移动时，特征图中与预测决策无关的信息会越来越少。我们提出的技术是作为基于 CNN 的自动驾驶转向系统的调试工具而开发的，因此需要实时运行，即其设计所需的计算量少于一次前向传播。这使得所提出的可视化方法成为一种有价值的调试工具，可在训练和推理过程中轻松使用。我们进一步用理论论证来证明我们的方法，并从理论上确认所提出的方法识别的是共同对预测做出贡献的输入像素集合，而非单个像素。我们的理论发现与实验结果一致。实证评估显示了所提出方法在道路视频数据以及其他应用中的合理性，并揭示其与逐层相关性传播方法相比具有优势，即获得了相似的可视化结果，同时实现了数量级的速度提升。
引用
@article{arxiv.1611.05418,
title = {VisualBackProp: efficient visualization of CNNs},
author = {Mariusz Bojarski and Anna Choromanska and Krzysztof Choromanski and Bernhard Firner and Larry Jackel and Urs Muller and Karol Zieba},
journal= {arXiv preprint arXiv:1611.05418},
year = {2017}
}