对抗风险的流形视角
机器学习
2022-04-11 v2
摘要
机器学习模型的对抗风险已被广泛研究。多数先前工作假设数据位于整个外围空间中。我们提出一个新角度，将流形假设纳入考虑。假设数据位于流形上，我们研究两类新的对抗风险：沿法线方向扰动的法线对抗风险，以及流形内扰动的流形内对抗风险。我们证明经典对抗风险可由法线与流形内对抗风险从两侧界定。我们还以一个令人意外悲观的情形表明，即使法线与流形内风险均为零，标准对抗风险仍可非零。我们以支撑理论结果的实证研究结束本文。我们的结果表明仅关注法线对抗风险即可改善分类器鲁棒性的可能。
引用
@article{arxiv.2203.13277,
title = {A Manifold View of Adversarial Risk},
author = {Wenjia Zhang and Yikai Zhang and Xiaoling Hu and Mayank Goswami and Chao Chen and Dimitris Metaxas},
journal= {arXiv preprint arXiv:2203.13277},
year = {2022}
}