恒定随机扰动以对准确率极小的影响提供对抗鲁棒性
机器学习
2021-07-28 v2
摘要
本文提出一种与攻击无关（非对抗训练）的技术，用于提升神经网络模型的对抗鲁棒性，同时将标准准确率的损失降至最低。我们建议在每个训练样本周围创建一个邻域，使得该邻域内所有输入的标签保持不变。与遵循相似原则的先前工作不同，我们通过为每个训练样本从邻域内抽取多个扰动来扩展训练集以应用该思想。这些扰动与模型无关，并在整个训练过程中保持恒定。我们在 MNIST、SVHN 和 CIFAR-10 上针对不同攻击与条件对我们的方法进行了实证分析。结果表明，所提方法相较于其他防御手段提升了标准准确率，同时相比原始对抗训练具有更强的鲁棒性。
引用
@article{arxiv.2103.08265,
title = {Constant Random Perturbations Provide Adversarial Robustness with Minimal Effect on Accuracy},
author = {Bronya Roni Chernyak and Bhiksha Raj and Tamir Hazan and Joseph Keshet},
journal= {arXiv preprint arXiv:2103.08265},
year = {2021}
}