基于随机平滑的认证对抗鲁棒性
机器学习
2019-06-18 v2 机器学习
摘要
我们展示了如何将任何在高斯噪声下分类表现良好的分类器转化为一个新的分类器，该分类器在范数下对对抗扰动具有可证明的鲁棒性。这种“随机平滑(randomized smoothing)”技术近期已在文献中被提出，但现有的保证较为宽松。我们证明了使用高斯噪声进行平滑时在范数下的紧致鲁棒性保证。我们利用随机平滑获得了例如在对范数小于0.5（=127/255）的对抗扰动下认证top-1准确率为49%的ImageNet分类器。除平滑外，尚无已证明在ImageNet上可行的认证防御。在竞争性的认证鲁棒性方法可行的较小规模数据集上，平滑提供了更高的认证准确率。我们强有力的实证结果表明，随机平滑是未来对抗鲁棒分类研究的一个有前景的方向。代码和模型可在http://github.com/locuslab/smoothing获取。
引用
@article{arxiv.1902.02918,
title = {Certified Adversarial Robustness via Randomized Smoothing},
author = {Jeremy M Cohen and Elan Rosenfeld and J. Zico Kolter},
journal= {arXiv preprint arXiv:1902.02918},
year = {2019}
}
备注
ICML 2019