用于训练对抗鲁棒神经网络的彩色噪声注入
机器学习
2020-03-23 v2 计算机视觉与模式识别
机器学习
摘要
尽管深度学习在各种任务上展现出无与伦比的性能，但已表明神经网络易受输入上的微小对抗扰动影响，从而导致性能显著下降。在这项工作中，我们将在对抗训练期间向网络权重和激活添加白高斯噪声（PNI）的思想扩展为注入彩色噪声，以防御常见的白盒与黑盒攻击。我们表明，在 CIFAR-10 与 CIFAR-100 数据集上，就对抗精度而言，我们的方法优于 PNI 及多种先前方法。此外，我们对所提方法进行了广泛的消融研究，以论证所选配置的合理性。
引用
@article{arxiv.2003.02188,
title = {Colored Noise Injection for Training Adversarially Robust Neural Networks},
author = {Evgenii Zheltonozhskii and Chaim Baskin and Yaniv Nemcovsky and Brian Chmiel and Avi Mendelson and Alex M. Bronstein},
journal= {arXiv preprint arXiv:2003.02188},
year = {2020}
}