对抗训练与可证明鲁棒性：两个目标的权衡
机器学习
2021-06-08 v3 机器学习
摘要
我们提出了一个将对抗训练与可证明鲁棒性验证相结合以训练可认证鲁棒神经网络的原则性框架。我们将训练问题表述为一个同时包含经验鲁棒性与可证明鲁棒性目标的联合优化问题，并开发了一种能够消除随机多梯度中偏差的新型梯度下降技术。我们对所提技术的收敛性进行了理论分析，并与当前最优方法进行了实验对比。在 MNIST 和 CIFAR-10 上的结果表明，我们的方法在可证明的 l_infinity 鲁棒性方面能够持续匹配或优于先前的方法。值得注意的是，我们在 epsilon = 0.3 的 MNIST 上取得了 6.60% 的验证测试误差，在 epsilon = 8/255 的 CIFAR-10 上取得了 66.57% 的验证测试误差。
引用
@article{arxiv.2008.06081,
title = {Adversarial Training and Provable Robustness: A Tale of Two Objectives},
author = {Jiameng Fan and Wenchao Li},
journal= {arXiv preprint arXiv:2008.06081},
year = {2021}
}
备注
Accepted at AAAI 2021