基于分支定界的 IBP 正则化用于已验证对抗鲁棒性
机器学习
2023-06-01 v2 密码学与安全
机器学习
摘要
近期工作试图通过在大于原始扰动的定义域上运行攻击并向目标添加各种正则化项，来提高对抗训练网络的可验证性。然而，这些算法要么表现不佳，要么需要复杂且昂贵的阶段性训练流程，阻碍了其实用性。我们提出 IBP-R，一种新颖且简单有效的已验证训练算法。IBP-R 通过将扩大域上的对抗攻击与基于廉价区间界传播的正则化项相结合来诱导网络可验证性，该正则化项最小化了非凸验证问题与其近似之间的差距。通过利用近期的分支定界框架，我们表明 IBP-R 在 CIFAR-10 小扰动下获得了最先进的已验证鲁棒性-准确率权衡，同时训练比相关先前工作显著更快。此外，我们提出 UPB，一种新颖的分支策略，其依赖基于 -CROWN 的简单启发式，在产生质量相当的分割的同时降低了最先进分支算法的代价。
引用
@article{arxiv.2206.14772,
title = {IBP Regularization for Verified Adversarial Robustness via Branch-and-Bound},
author = {Alessandro De Palma and Rudy Bunel and Krishnamurthy Dvijotham and M. Pawan Kumar and Robert Stanforth},
journal= {arXiv preprint arXiv:2206.14772},
year = {2023}
}
备注
ICML 2022 Workshop on Formal Verification of Machine Learning