具有可证明鲁棒性的随机平滑分类器的正则化训练与紧致认证
机器学习
2020-02-19 v1 机器学习
摘要
近来，通过各向同性高斯扰动平滑基于深度神经网络的分类器被证明是一种有效且可扩展的方法，可提供针对 范数有界对抗扰动的最先进概率鲁棒性保证。然而，如何训练一个在平滑后准确且鲁棒的良好基分类器尚未得到充分研究。本工作中，我们推导了一个新的正则化风险，其中的正则化项能在训练基分类器时自适应地促进其平滑对应物的准确性与鲁棒性。该方法计算高效，并可与其他经验防御方法并行实现。我们讨论了在标准（非对抗）与对抗训练方案下如何实施该方法。同时，我们还设计了一种新的认证算法，可利用正则化效应提供以高概率成立的更紧鲁棒性下界。我们在 CIFAR-10 和 ImageNet 数据集上的大量实验证明了所提训练与认证方法的有效性。
引用
@article{arxiv.2002.07246,
title = {Regularized Training and Tight Certification for Randomized Smoothed Classifier with Provable Robustness},
author = {Huijie Feng and Chunpeng Wu and Guoyang Chen and Weifeng Zhang and Yang Ning},
journal= {arXiv preprint arXiv:2002.07246},
year = {2020}
}
备注
AAAI2020