迈向对对抗样本鲁棒的深度神经网络架构
机器学习
2015-04-13 v4 计算机视觉与模式识别
神经与进化计算
摘要
最近的研究表明，深度神经网络（DNNs）极易受到输入层精心设计的微小扰动（即所谓的对抗样本）的影响。以图像为例，此类失真往往难以察觉，但却可能导致最先进的 DNN 出现 100% 的错误分类。我们研究了对抗样本的结构，并探索了网络拓扑、预处理和训练策略以提高 DNN 的鲁棒性。我们进行了各种实验，通过添加额外噪声破坏样本以及使用去噪自编码器（DAEs）进行预处理，来评估对抗样本的可去除性。我们发现 DAEs 可以去除大量的对抗噪声。然而，当将 DAE 与原始 DNN 堆叠时，生成的网络仍可能受到具有更小失真的新对抗样本的攻击。作为解决方案，我们提出了深度收缩网络（Deep Contractive Network），该模型采用了一种新的端到端训练过程，其中包括受收缩自编码器（CAE）启发的平滑性惩罚项。这提高了网络对对抗样本的鲁棒性，且未造成显著的性能损失。
引用
@article{arxiv.1412.5068,
title = {Towards Deep Neural Network Architectures Robust to Adversarial Examples},
author = {Shixiang Gu and Luca Rigazio},
journal= {arXiv preprint arXiv:1412.5068},
year = {2015}
}