基于可迁移对抗样本的高效对抗训练
机器学习
2020-07-03 v2 计算机视觉与模式识别
摘要
对抗训练是一种有效的防御方法，可保护分类模型免受对抗攻击。然而，该方法的一个局限在于，由于训练期间生成强对抗样本的成本高昂，其所需训练时间可能多出几个数量级。在本文中，我们首先表明同一训练过程中相邻轮次(epoch)的模型之间存在高度可迁移性，即某一轮次的对抗样本在后续轮次中仍保持对抗性。利用这一性质，我们提出了一种新方法——基于可迁移对抗样本的对抗训练(ATTA)，它通过跨轮次累积对抗扰动，能够增强训练模型的鲁棒性并大幅提高训练效率。与最先进的对抗训练方法相比，ATTA 在 CIFAR10 上将对抗准确率提升了高达 7.2%，并在 MNIST 和 CIFAR10 数据集上以相当的模型鲁棒性将训练时间减少 12~14 倍。
引用
@article{arxiv.1912.11969,
title = {Efficient Adversarial Training with Transferable Adversarial Examples},
author = {Haizhong Zheng and Ziqi Zhang and Juncheng Gu and Honglak Lee and Atul Prakash},
journal= {arXiv preprint arXiv:1912.11969},
year = {2020}
}
备注
Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition 2020 (CVPR 2020)