随机平滑分类器对抗鲁棒性的紧致证书
机器学习
2020-02-28 v3 机器学习
摘要
对于通过输入随机化生成的分类器集成，可以给出强有力的鲁棒性理论保证。具体而言，由加性各向同性高斯噪声生成的集成预测不会被 有界对抗者改变，其中对抗者的半径取决于分布的方差以及感兴趣点的集成间隔。我们在该工作基础上大幅扩展至广泛的分布类别。特别地，我们针对对抗者为 有界的离散情形给出了对抗鲁棒性保证及相应算法。此外，我们以分类器函数类的特定假设（如决策树）为例展示了如何收紧这些保证。我们在有和无函数限制的情况下，基于图像与分子数据集对这些结果进行了实证说明。
引用
@article{arxiv.1906.04948,
title = {Tight Certificates of Adversarial Robustness for Randomly Smoothed Classifiers},
author = {Guang-He Lee and Yang Yuan and Shiyu Chang and Tommi S. Jaakkola},
journal= {arXiv preprint arXiv:1906.04948},
year = {2020}
}
备注
Published in Advances in Neural Information Processing Systems (NeurIPS), 2019