中文

SOAR:二阶对抗正则化

机器学习 2021-02-09 v2 机器学习

摘要

对抗训练是提高深度神经网络对抗对抗样本鲁棒性的常用方法。在这项工作中,我们提出了一种新的正则化方法作为替代。为了推导正则化器,我们在鲁棒优化框架下表述对抗鲁棒性问题,并使用二阶泰勒级数展开逼近损失函数。我们提出的二阶对抗正则化器(SOAR)是基于鲁棒优化目标中内部最大值的泰勒近似的一个上界。我们凭经验证明,所提出的方法显著提高了网络对在CIFAR-10和SVHN上使用基于交叉熵的PGD生成的\ell_\infty2\ell_2有界扰动的鲁棒性。

关键词

引用

@article{arxiv.2004.01832,
  title  = {SOAR: Second-Order Adversarial Regularization},
  author = {Avery Ma and Fartash Faghri and Nicolas Papernot and Amir-massoud Farahmand},
  journal= {arXiv preprint arXiv:2004.01832},
  year   = {2021}
}