通过引导补熵提升对抗鲁棒性

对抗鲁棒性已成为深度学习中的一个重要课题，因为精心设计的攻击样本会显著干扰模型的性能。最近许多方法提出利用对抗训练或模型蒸馏来提升对抗鲁棒性，这给模型训练增加了额外的步骤。在本文中，我们提出了一种名为引导补熵（GCE）的新训练范式，能够实现“免费的对抗防御”，在提升对抗鲁棒性的过程中不涉及任何额外步骤。除了像交叉熵一样最大化模型在真实类别上的概率外，我们中和其在错误类别上的概率，并使用一个“引导”项来平衡这两项。我们在实验中表明，与常用的交叉熵训练目标相比，我们的方法实现了更好的模型鲁棒性，且性能甚至更优。我们还表明，我们的方法可以与各种知名方法中的对抗训练正交使用，带来显著的鲁棒性提升。据我们所知，我们的方法是首个在不牺牲性能的情况下提升模型鲁棒性的方法。