高维回归中基于生成数据的对抗训练:一项渐近研究
机器学习
2023-06-23 v1 机器学习
摘要
近年来,诸如 \cite{carmon2019unlabeled,gowal2021improving,xing2022artificial} 的研究已表明,通过两阶段训练方法引入带伪标签的额外真实或生成数据可增强对抗训练。在本文中,我们对该方法在高维线性回归中的渐近行为进行理论分析。虽然在无岭训练中可观察到双下降现象,但借助适当的 正则化,两阶段对抗训练取得了更好的性能。最后,我们推导了专为两阶段训练方法定制的快捷交叉验证公式。
引用
@article{arxiv.2306.12582,
title = {Adversarial Training with Generated Data in High-Dimensional Regression: An Asymptotic Study},
author = {Yue Xing},
journal= {arXiv preprint arXiv:2306.12582},
year = {2023}
}