卷积神经网络对内部架构与权重扰动的鲁棒性研究
机器学习
2017-03-27 v1 计算机视觉与模式识别
摘要
深度卷积神经网络通常被认为是稳健的函数逼近器。迄今为止，这种直觉基于对外部刺激（如待分类图像）的扰动。本文探索了卷积神经网络对网络自身内部权重和架构扰动的鲁棒性。我们发现，卷积网络对较高卷积层中的多种内部扰动表现出惊人的鲁棒性，但底部卷积层则脆弱得多。例如，当随机移除顶部卷积层或全连接层中超过70%的权重连接时，AlexNet的分类性能下降不到30%；但在第一卷积层施加相同扰动时，性能几乎降至随机水平。最后，我们建议开展进一步研究，以持续揭示卷积网络对内部扰动的鲁棒性。
引用
@article{arxiv.1703.08245,
title = {On the Robustness of Convolutional Neural Networks to Internal Architecture and Weight Perturbations},
author = {Nicholas Cheney and Martin Schrimpf and Gabriel Kreiman},
journal= {arXiv preprint arXiv:1703.08245},
year = {2017}
}
备注
under review at ICML 2017