通过对抗训练的平滑分类器实现可证明鲁棒的深度学习
机器学习
2020-01-13 v5 密码学与安全
机器学习
摘要
近期工作已证明，随机平滑作为一种可扩展技术，能有效构建对 ℓ₂-范数对抗扰动具有可证明鲁棒性的神经网络分类器。本文中，我们采用对抗训练来提升随机平滑的性能。我们为平滑分类器设计了一种适配攻击，并展示了如何将这种攻击用于对抗训练设置中，以增强平滑分类器的可证明鲁棒性。通过大量实验，我们证明我们的方法在 ImageNet 和 CIFAR-10 上以显著优势一致优于所有现有的可证明 ℓ₂-鲁棒分类器，确立了可证明 ℓ₂-防御的最新水平。此外，我们发现预训练和半监督学习能进一步提升经过对抗训练的平滑分类器。我们的代码和训练模型可在 http://github.com/Hadisalman/smoothing-adversarial 获取。
引用
@article{arxiv.1906.04584,
title = {Provably Robust Deep Learning via Adversarially Trained Smoothed Classifiers},
author = {Hadi Salman and Greg Yang and Jerry Li and Pengchuan Zhang and Huan Zhang and Ilya Razenshteyn and Sebastien Bubeck},
journal= {arXiv preprint arXiv:1906.04584},
year = {2020}
}
备注
Spotlight at the 33rd Conference on Neural Information Processing Systems (NeurIPS 2019), Vancouver, Canada; 9 pages main text; 31 pages total