对抗鲁棒性与惰性训练相冲突
机器学习
2022-10-19 v2 密码学与安全
机器学习
摘要
近期工作表明，随机神经网络存在对抗样本 [Daniely and Schacham, 2020]，并且可以使用一步梯度上升找到这些样本 [Bubeck et al., 2021]。在这项工作中，我们将这一研究路线扩展到神经网络的“惰性训练”——这是深度学习理论中一个主导性的模型，其中神经网络被证明是可高效学习的。我们表明，那些保证良好泛化并具有强计算保证的过参数化神经网络，仍然容易受到使用一步梯度上升生成的攻击。
引用
@article{arxiv.2207.00411,
title = {Adversarial Robustness is at Odds with Lazy Training},
author = {Yunjuan Wang and Enayat Ullah and Poorya Mianjy and Raman Arora},
journal= {arXiv preprint arXiv:2207.00411},
year = {2022}
}
备注
NeurIPS 2022