动态ε调度：一种多因子自适应对抗训练扰动预算方法
计算机视觉与模式识别
2025-12-05 v2 机器学习
摘要
对抗训练是防御深度神经网络免受对抗样本攻击的最有效策略之一。现有对抗训练方法的一个关键局限在于它们依赖固定的扰动预算，未能考虑实例特定的鲁棒性特征。虽然IAAT和MMA等先前工作引入了实例级自适应，但它们通常依赖于数据鲁棒性的启发式或静态近似。在本文中，我们提出了动态ε调度（DES），一种新颖的框架，能够自适应地调整每个实例和每次训练迭代的对抗扰动预算。DES整合了三个关键因素：（1）通过基于梯度的代理近似的到决策边界的距离，（2）从softmax熵导出的预测置信度，以及（3）通过蒙特卡洛dropout估计的模型不确定性。通过将这些线索结合成一个统一的调度策略，DES动态地定制扰动预算，以引导更有效的对抗学习。在CIFAR-10和CIFAR-100上的实验结果表明，与固定ε基线和先前的自适应方法相比，我们的方法一致地提高了对抗鲁棒性和标准准确率。此外，我们提供了关于调度策略稳定性和收敛性的理论见解。这项工作为实例感知、数据驱动的对抗训练方法开辟了一条新途径。
引用
@article{arxiv.2506.04263,
title = {Dynamic Epsilon Scheduling: A Multi-Factor Adaptive Perturbation Budget for Adversarial Training},
author = {Alan Mitkiy and James Smith and Myungseo wong and Hana Satou and Hiroshi Tanaka and Emily Johnson},
journal= {arXiv preprint arXiv:2506.04263},
year = {2025}
}
备注
arXiv admin note: This version has been removed by arXiv administrators as the submitter did not have the right to agree to the license at the time of submission