SOAR:二阶对抗正则化
机器学习
2021-02-09 v2 机器学习
摘要
对抗训练是提高深度神经网络对抗对抗样本鲁棒性的常用方法。在这项工作中,我们提出了一种新的正则化方法作为替代。为了推导正则化器,我们在鲁棒优化框架下表述对抗鲁棒性问题,并使用二阶泰勒级数展开逼近损失函数。我们提出的二阶对抗正则化器(SOAR)是基于鲁棒优化目标中内部最大值的泰勒近似的一个上界。我们凭经验证明,所提出的方法显著提高了网络对在CIFAR-10和SVHN上使用基于交叉熵的PGD生成的和有界扰动的鲁棒性。
引用
@article{arxiv.2004.01832,
title = {SOAR: Second-Order Adversarial Regularization},
author = {Avery Ma and Fartash Faghri and Nicolas Papernot and Amir-massoud Farahmand},
journal= {arXiv preprint arXiv:2004.01832},
year = {2021}
}