通过凸组合实现可验证鲁棒性的富有表达能力损失函数

为训练具备可验证对抗鲁棒性的网络，通常对扰动区域上的最坏情况损失进行过度近似，导致网络以标准性能为代价获得可验证性。如近期工作所示，通过谨慎地将对抗训练与过度近似相耦合，可在准确率与鲁棒性之间获得更好的权衡。我们假设，损失函数的表达能力——我们将其形式化为通过单一参数（过度近似系数）来跨越最坏情况损失下界与上界之间一系列权衡的能力——是取得最先进性能的关键。为支持该假设，我们展示了由对抗攻击与 IBP 边界之间通过凸组合得到的平凡表达能力损失，尽管概念简单，却能在多种设置下取得最先进结果。我们详细分析了不同表达能力损失中过度近似系数与性能轮廓之间的关系，表明尽管表达能力至关重要，但对最坏情况损失的更好近似未必与更优的鲁棒性-准确率权衡相关。