通过简单基线重访并推进对抗训练
计算机视觉与模式识别
2023-11-21 v2 机器学习
摘要
在本文中，我们深入探究对抗训练这一对抗对抗攻击的先驱防御技术的基本组成部分。我们指出，一些与模型架构无关的因素，如损失函数、学习率调度器和数据增强，会影响对抗鲁棒性与泛化能力。在对这些因素加以控制后，我们引入一种称为 SimpleAT 的简单基线方法，其与近期方法相比具有竞争力并能缓解鲁棒过拟合。我们在 CIFAR-10/100 和 Tiny-ImageNet 上进行了大量实验，验证了 SimpleAT 针对 AutoAttack 等最先进对抗攻击者的鲁棒性。我们的结果还表明，SimpleAT 在各种图像损坏（如 CIFAR-10-C 中的那些）存在时表现良好。此外，我们凭经验表明 SimpleAT 能够降低模型预测的方差，这被视为鲁棒过拟合的主要成因。我们的结果也揭示了 SimpleAT 与许多先进的最先进对抗防御方法之间的联系。
引用
@article{arxiv.2306.07613,
title = {Revisiting and Advancing Adversarial Training Through A Simple Baseline},
author = {Hong Liu},
journal= {arXiv preprint arXiv:2306.07613},
year = {2023}
}
备注
11 pages, 8 figures