自适应对抗训练不会增加补救成本
机器学习
2023-09-07 v1 密码学与安全
摘要
近期工作将对抗攻击方法与算法补救方法联系起来：二者均寻求对输入实例的最小改动以改变模型的分类决策。已有研究表明，旨在最小化分类器对恶意扰动的敏感性的传统对抗训练，会增加所生成补救的成本；更大的对抗训练半径与更高的补救成本相关。然而，从算法补救的视角看，恰当的对抗训练半径始终未知。另一近期工作线提出了具有自适应训练半径的对抗训练，以解决实例级可变对抗脆弱性问题，并在未知攻击半径的领域中显示出成功。本工作研究自适应对抗训练对算法补救成本的影响。我们确定，自适应对抗训练带来的模型鲁棒性提升对算法补救成本影响甚微，这为在补救性至关重要的领域中实现可负担的鲁棒性提供了潜在途径。
引用
@article{arxiv.2309.02528,
title = {Adaptive Adversarial Training Does Not Increase Recourse Costs},
author = {Ian Hardy and Jayanth Yetukuri and Yang Liu},
journal= {arXiv preprint arXiv:2309.02528},
year = {2023}
}