卷积神经网络如何看待世界——卷积神经网络可视化方法综述
计算机视觉与模式识别
2018-06-04 v2
摘要
如今，卷积神经网络 (CNN) 在许多计算机视觉相关任务上取得了令人瞩目的性能，例如目标检测、图像识别、图像检索等。这些成就得益于 CNN 通过深层神经元结构和迭代训练过程学习输入特征的卓越能力。然而，从人类视觉的角度来看，这些学习到的特征难以识别和解释，导致对 CNN 内部工作机制缺乏理解。为了提高 CNN 的可解释性，CNN 可视化作为一种定性分析方法被充分利用，它将内部特征转化为视觉上可感知的模式。文献中已提出许多 CNN 可视化工作，从网络结构、操作和语义概念的角度来解释 CNN。在本文中，我们期望对几种具有代表性的 CNN 可视化方法提供全面综述，包括激活最大化、网络反演、反卷积神经网络 (DeconvNet) 以及基于网络剖析的可视化。这些方法从动机、算法和实验结果方面进行了介绍。基于这些可视化方法，我们还讨论了它们的实际应用，以展示 CNN 可解释性在网络设计、优化、安全增强等领域的重要性。
引用
@article{arxiv.1804.11191,
title = {How convolutional neural network see the world - A survey of convolutional neural network visualization methods},
author = {Zhuwei Qin and Fuxun Yu and Chenchen Liu and Xiang Chen},
journal= {arXiv preprint arXiv:1804.11191},
year = {2018}
}
备注
32 pages, 21 figures. Mathematical Foundations of Computing