平滑分类器上的认证分布鲁棒性
机器学习
2021-05-03 v2 密码学与安全
机器学习
摘要
深度神经网络（DNNs）针对对抗样本攻击的鲁棒性已引起广泛关注。对于平滑分类器，我们提出将输入分布上的最坏情况对抗损失作为鲁棒性证书。与先前的证书相比，我们的证书更好地描述了平滑分类器的经验性能。通过利用对偶性与平滑性质，我们提供了一个易于计算的上界作为该证书的替代。我们采用噪声对抗学习过程来最小化替代损失以提升模型鲁棒性。我们表明，我们的训练方法在分布鲁棒基分类器上提供了理论上更紧的界。在多种数据集上的实验进一步展示了我们的方法相对于最先进的认证或启发式方法的优越鲁棒性性能。
引用
@article{arxiv.2010.10987,
title = {Certified Distributional Robustness on Smoothed Classifiers},
author = {Jungang Yang and Liyao Xiang and Ruidong Chen and Yukun Wang and Wei Wang and Xinbing Wang},
journal= {arXiv preprint arXiv:2010.10987},
year = {2021}
}