$\ell_\infty$-扰动下对抗训练估计量的渐近行为
统计理论
2025-03-04 v2 机器学习
统计方法学
机器学习
统计理论
摘要
对抗训练已被提出用于保护机器学习模型免受对抗攻击。本文关注近期引起广泛研究兴趣的 -扰动下的对抗训练。在广义线性模型中研究了对抗训练估计量的渐近行为。结果表明，当真实参数为 时，-扰动下对抗训练估计量的渐近分布可以在 处放置正概率质量，这为相关的稀疏恢复能力提供了理论保证。此外，提出了一种两步程序——自适应对抗训练，可进一步提升 -扰动下对抗训练的性能。具体而言，所提出的程序能够实现渐近变量选择一致性与无偏性。通过数值实验展示了 -扰动下对抗训练的稀疏恢复能力，并比较了经典对抗训练与自适应对抗训练的经验性能。
引用
@article{arxiv.2401.15262,
title = {Asymptotic Behavior of Adversarial Training Estimator under $\ell_\infty$-Perturbation},
author = {Yiling Xie and Xiaoming Huo},
journal= {arXiv preprint arXiv:2401.15262},
year = {2025}
}