参数插值对抗训练：用于鲁棒图像分类

尽管深度神经网络在各种任务上表现出优越性能，但仍然受到对抗样本的困扰。对抗训练已被证明是抵御对抗攻击的最有效方法。然而，现有的对抗训练方法显示出模型鲁棒性在训练过程中存在明显的振荡和过拟合问题，导致防御效果下降。为解决这些问题，我们提出了一种名为参数插值对抗训练（Parameter Interpolation Adversarial Training, PIAT）的新型框架。PIAT 通过在每个 epoch 之间对先前和当前 epoch 的参数进行插值来调整模型参数，从而使模型决策边界的变化更为温和，缓解过拟合问题，有助于模型更好地收敛并实现更高的模型鲁棒性。此外，我们建议使用归一化均方误差（Normalized Mean Square Error, NMSE）进一步提高鲁棒性，通过对干净样本和对抗样本之间的相对 logits 大小进行对齐，而非绝对大小。在几个基准数据集上进行的大量实验表明，我们的框架能够显著提高卷积神经网络（Convolutional Neural Networks, CNNs）和视觉 Transformer（Vision Transformer, ViT）的鲁棒性。