误指定模型下对抗超额风险的非渐近界
机器学习
2023-09-06 v1 机器学习
摘要
我们提出了一种在误指定模型下基于对抗损失评估鲁棒估计量性能的通用方法。我们首先表明，在某些平滑性条件下，对抗风险等价于由分布对抗攻击诱导的风险。这确保了对抗训练过程是良定义的。为评估对抗估计量的泛化性能，我们研究对抗超额风险。我们提出的分析方法包括对泛化误差和近似误差的考察。然后我们建立了与 Lipschitz 损失函数相关的对抗超额风险的非渐近上界。此外，我们将一般结果应用于分类和回归问题的对抗训练。对于非参数回归中的二次损失，我们表明对抗超额风险界可优于一般损失的相应界。
引用
@article{arxiv.2309.00771,
title = {Non-Asymptotic Bounds for Adversarial Excess Risk under Misspecified Models},
author = {Changyu Liu and Yuling Jiao and Junhui Wang and Jian Huang},
journal= {arXiv preprint arXiv:2309.00771},
year = {2023}
}
备注
27 pages, 3 tables