中文

PIAT:基于参数插值的图像分类对抗训练

计算机视觉与模式识别 2023-03-27 v1

摘要

对抗训练已被证明是防御对抗攻击最有效的方法。然而,现有对抗训练方法在训练过程中表现出明显的振荡和过拟合问题,降低了防御效能。在本工作中,我们提出一种新颖的框架,称为基于参数插值的对抗训练(PIAT),其充分利用训练过程中的历史信息。具体而言,在每个 epoch 结束时,PIAT 将模型参数调整为前一 epoch 与当前 epoch 参数的插值。此外,我们建议使用归一化均方误差(NMSE)通过对齐干净样本与对抗样本来进一步提升鲁棒性。与其他正则化方法相比,NMSE 更关注 logits 的相对大小而非绝对大小。在多个基准数据集和各种网络上的大量实验表明,我们的方法能显著提升模型鲁棒性并降低泛化误差。此外,我们的框架具有通用性,与其他对抗训练方法结合时可进一步提升鲁棒准确率。

关键词

引用

@article{arxiv.2303.13955,
  title  = {PIAT: Parameter Interpolation based Adversarial Training for Image Classification},
  author = {Kun He and Xin Liu and Yichen Yang and Zhou Qin and Weigao Wen and Hui Xue and John E. Hopcroft},
  journal= {arXiv preprint arXiv:2303.13955},
  year   = {2023}
}