不协和谷：从平坡性角度探索对抗鲁棒性

损失函数表面的平坡性不仅与泛化能力正相关，还与对抗鲁棒性相关，因为输入的扰动与权重的扰动之间存在非线性关系。在本文中，我们从经验上分析了对抗样本与参数某一层上相对平坡性之间的关系。我们观察到，在迭代的一阶白盒攻击过程中，围绕对抗样本测量的损失表面平坡性在标签翻转之前首先变得更尖锐，但如果继续进行攻击，则会进入一种标签保持翻转的平坡不协和谷中。在大量实验中，我们在各种模型架构和数据集上观察到这一现象，即使对于经过对抗训练的模型也是如此。我们的结果还扩展到大型语言模型（LLM），但由于输入空间的离散性质以及相对较弱的攻击，对抗样本很少到达真正的平坡区域。更重要的是，这一现象表明除非我们还能保证函数在样本附近的行为，否则仅凭平坡性无法解释对抗鲁棒性。因此，我们通过对损失表面第三导数的界限，理论上将相对平坡性与对抗鲁棒性联系起来，强调在保证低全局 Lipschitz 常数的情况下，平坡性对于稳健模型至关重要。