基于最小间隔攻击的对抗鲁棒性快速可靠评估
机器学习
2022-06-16 v1 密码学与安全
摘要
AutoAttack（AA）在拥有充足计算资源时一直是评估对抗鲁棒性最可靠的方法。然而，其高计算成本（例如，比投影梯度下降攻击高 100 倍）使得 AA 对计算资源有限的从业者不可行，也阻碍了 AA 在对抗训练（AT）中的应用。本文提出一种新方法——最小间隔（MM）攻击，以快速且可靠地评估对抗鲁棒性。与 AA 相比，我们的方法在大量实验中取得相当的性能，但仅耗费 3% 的计算时间。我们方法的可靠性在于使用两个目标之间的间隔来评估对抗样本的质量，该间隔能精确识别最具对抗性的样本。我们方法的计算效率在于一种有效的顺序目标排序选择（STARS）方法，确保 MM 攻击的成本与类别数量无关。MM 攻击为评估对抗鲁棒性开辟了新途径，并为在 AT 中生成高质量对抗样本提供了可行且可靠的方式。
引用
@article{arxiv.2206.07314,
title = {Fast and Reliable Evaluation of Adversarial Robustness with Minimum-Margin Attack},
author = {Ruize Gao and Jiongxiao Wang and Kaiwen Zhou and Feng Liu and Binghui Xie and Gang Niu and Bo Han and James Cheng},
journal= {arXiv preprint arXiv:2206.07314},
year = {2022}
}