二分类代理风险的对抗一致性
机器学习
2025-10-09 v3 统计理论
统计理论
摘要
我们研究鲁棒二分类中代理风险的一致性。通过对抗训练学习鲁棒分类器是常见做法,其旨在最小化当每个样本可在小球内被恶意扰动时的期望 - 损失。我们给出对于任意数据分布,能够替代 - 损失而不影响原始对抗风险最小化序列的\emph{一致}代理损失函数集合的一个简单且完整的刻画。我们还证明了 -间隔损失的对抗一致性的定量版本。我们的结果表明,对抗一致代理函数的类别远比标准设定下小,在标准设定中许多常见代理函数已知是一致的。
引用
@article{arxiv.2305.09956,
title = {The Adversarial Consistency of Surrogate Risks for Binary Classification},
author = {Natalie Frank and Jonathan Niles-Weed},
journal= {arXiv preprint arXiv:2305.09956},
year = {2025}
}
备注
17 pages, published in NeurIps 2023. version 3: added acknowledgements, no other changes. version 2: reorganized Section 4 and added proofs of the approximate complimentary slackness theorems. arXiv admin note: text overlap with arXiv:2206.09099