朝向分布外对抗鲁棒性
机器学习
2023-06-27 v4 人工智能
摘要
对抗鲁棒性仍是深度学习的一大挑战。一个核心问题是针对一种攻击的鲁棒性往往无法迁移到其他攻击。尽管先前工作建立了针对不同 范数鲁棒性的理论权衡，我们表明通过采用域泛化方法，针对许多常用攻击存在改进潜力。具体而言，我们将每种攻击视为一个域，并应用风险外推方法（REx），其促进对所有训练攻击相似的鲁棒性水平。与现有方法相比，我们在训练期间见到的攻击上获得了相似或更优的最坏情况对抗鲁棒性。此外，我们在仅在测试时遇到的攻击族或调参上取得了更优性能。在攻击集成上，我们的方法在 MNIST 上将准确率从现有最佳基线的 3.4% 提升至 25.9%，在 CIFAR10 上从 16.9% 提升至 23.5%。
引用
@article{arxiv.2210.03150,
title = {Towards Out-of-Distribution Adversarial Robustness},
author = {Adam Ibrahim and Charles Guille-Escuret and Ioannis Mitliagkas and Irina Rish and David Krueger and Pouya Bashivan},
journal= {arXiv preprint arXiv:2210.03150},
year = {2023}
}
备注
Version of NeurIPS 2023 submission