对抗样本不是缺陷，而是特征
机器学习
2019-08-13 v4 密码学与安全
计算机视觉与模式识别
机器学习
摘要
对抗样本在机器学习中引起了广泛关注，但其存在与普遍性的原因仍不清楚。我们证明，对抗样本可直接归因于非鲁棒特征的存在：这些特征源自数据分布中的模式，具有高度预测性，但对人类而言脆弱且难以理解。在理论框架中捕捉这些特征后，我们确立了它们在标准数据集中的广泛存在。最后，我们提出了一个简单设定，在其中能够严格地将实践中观察到的现象与（人类指定的）鲁棒性概念和数据固有几何结构之间的错位联系起来。
引用
@article{arxiv.1905.02175,
title = {Adversarial Examples Are Not Bugs, They Are Features},
author = {Andrew Ilyas and Shibani Santurkar and Dimitris Tsipras and Logan Engstrom and Brandon Tran and Aleksander Madry},
journal= {arXiv preprint arXiv:1905.02175},
year = {2019}
}