对抗噪声层:通过添加噪声正则化神经网络
计算机视觉与模式识别
2018-10-31 v2 机器学习
摘要
在本文中,我们提出了一种称为对抗噪声层(Adversarial Noise Layer,ANL)的新型正则化方法及其高效版本——类别对抗噪声层(Class Adversarial Noise Layer,CANL),它们能够通过向中间层激活值中添加精心构造的噪声来显著提升 CNN 的泛化能力。ANL 和 CANL 易于实现,并可集成到大多数主流的基于 CNN 的模型中。我们比较了不同类型噪声的效果,并从视觉上证明,我们提出的对抗噪声引导 CNN 模型学习提取更干净的特征图,从而进一步降低过拟合风险。我们还得出结论:使用 ANL 或 CANL 训练的模型比传统的对抗训练方法对由 FGSM 生成的对抗样本更具鲁棒性。
引用
@article{arxiv.1805.08000,
title = {Adversarial Noise Layer: Regularize Neural Network By Adding Noise},
author = {Zhonghui You and Jinmian Ye and Kunming Li and Zenglin Xu and Ping Wang},
journal= {arXiv preprint arXiv:1805.08000},
year = {2018}
}