以小批量生成对抗样本可能损害对抗鲁棒性
机器学习
2023-04-03 v1 密码学与安全
计算机视觉与模式识别
摘要
神经网络已被证明在计算机视觉中极为有效，同时也极易受到对抗攻击。因此，随着神经网络因其无与伦比的性能而被日益广泛使用，对抗攻击所带来的威胁也随之增加。在这项工作中，我们通过探究对抗样本生成过程中所用小批量（mini-batch）大小与所产生的对抗样本强度之间的关系，致力于解决对抗鲁棒性这一挑战。我们证明，小批量大小的增加会导致所生成样本效力的下降，并将这些观察结果与梯度消失现象联系起来。接下来，我们构造了损失函数，使得对抗样本强度不会因小批量大小而退化。我们的发现凸显了低估对抗攻击真实（实际）强度以及高估模型鲁棒性的潜在风险。我们分享了代码，以便他人复现我们的实验，并促进对批量大小与对抗样本强度之间关系的进一步探索。
引用
@article{arxiv.2303.17720,
title = {Generating Adversarial Samples in Mini-Batches May Be Detrimental To Adversarial Robustness},
author = {Timothy Redgrave and Colton Crum},
journal= {arXiv preprint arXiv:2303.17720},
year = {2023}
}
备注
6 pages, 3 figures