多样性特征可视化揭示深度神经网络早期层的不变性
计算机视觉与模式识别
2018-07-30 v1
摘要
可视化深度神经网络（DNNs）中的特征有助于理解其计算。许多先前的研究旨在通过寻找能最大化单个单元激活的有意义图像来可视化其选择性。然而，相对而言，可视化DNNs中单元对何种图像变换保持不变性受到的关注较少。本文提出一种发现深度神经网络隐藏层单元响应不变性的方法。我们的方法基于同时搜索一批能强烈激活某单元且彼此尽可能不同的图像。我们发现，即便是VGG-19中的早期卷积层也表现出多种形式的响应不变性：某些单元近乎完美的相位不变性，以及其他单元对局部微分同胚变换的不变性。同时，我们揭示了ResNet-50在对应层中的表征差异。我们得出结论：不变性变换是DNNs学习到的主要计算成分，并提供了研究它们的系统方法。
引用
@article{arxiv.1807.10589,
title = {Diverse feature visualizations reveal invariances in early layers of deep neural networks},
author = {Santiago A. Cadena and Marissa A. Weis and Leon A. Gatys and Matthias Bethge and Alexander S. Ecker},
journal= {arXiv preprint arXiv:1807.10589},
year = {2018}
}
备注
Accepted for ECCV 2018