用于改善对抗训练泛化能力的鲁棒局部特征
计算机视觉与模式识别
2020-02-04 v5
摘要
对抗训练已被证明是训练鲁棒模型以防御对抗样本最有效的方法之一。然而，对抗训练的模型通常在未见测试数据上缺乏对抗鲁棒泛化能力。近期工作表明，对抗训练的模型更偏向于全局结构特征。相反，在本工作中，我们想研究对抗训练的泛化与鲁棒局部特征之间的关系，因为鲁棒局部特征对未见形状变化泛化良好。为学习鲁棒局部特征，我们开发了随机块打乱（RBS）变换以破坏正常对抗样本上的全局结构特征。我们进一步提出一种称为鲁棒局部特征对抗训练（RLFAT）的新方法，该方法首先在RBS变换的对抗样本上通过对抗训练学习鲁棒局部特征，然后将鲁棒局部特征迁移到正常对抗样本的训练中。为证明我们论点的普适性，我们在当前最先进的对抗训练框架中实现了RLFAT。在STL-10、CIFAR-10和CIFAR-100上的大量实验表明，RLFAT显著提升了对抗训练的对抗鲁棒泛化和标准泛化。此外，我们证明我们的模型在图像上捕获了更多物体的局部特征，更符合人类感知。
引用
@article{arxiv.1909.10147,
title = {Robust Local Features for Improving the Generalization of Adversarial Training},
author = {Chuanbiao Song and Kun He and Jiadong Lin and Liwei Wang and John E. Hopcroft},
journal= {arXiv preprint arXiv:1909.10147},
year = {2020}
}
备注
accepted by ICLR 2020