抑制异常：使用对称激活函数的鲁棒 CNN
计算机视觉与模式识别
2016-03-18 v1 人工智能
机器学习
摘要
许多深度卷积神经网络（CNN）对通过干净样本施加难以察觉的扰动所获得的对抗样本做出错误预测。我们假设这是由于网络层内部未能抑制异常信号所致。作为补救，我们提出在非线性信号转换单元中使用对称激活函数（SAF）。这些单元抑制具有异常幅度的信号。我们证明在简化情形下，SAF 网络能够以任意精度执行分类任务。在实践中，我们并非单独使用 SAF，而是将其加入 CNN 中以提升其鲁棒性。修改后的 CNN 可以使用主流策略轻松训练，且训练负担适中。我们在 MNIST 和 CIFAR-10 上的实验表明，修改后的 CNN 在干净样本上的表现与原始网络相似，并且对抗对抗样本和无意义样本明显更加鲁棒。
引用
@article{arxiv.1603.05145,
title = {Suppressing the Unusual: towards Robust CNNs using Symmetric Activation Functions},
author = {Qiyang Zhao and Lewis D Griffin},
journal= {arXiv preprint arXiv:1603.05145},
year = {2016}
}
备注
11 pages, 12 figures