Adv-4-Adv:通过对抗域适应抵御变化的对抗扰动
计算机视觉与模式识别
2023-12-08 v3 人工智能
摘要
尽管对抗训练对于特定对抗扰动可能有效,但已证明其在泛化到偏离训练所用攻击的攻击时效果不佳。然而,我们观察到这种无效性与域适应性这一深度学习中的另一个关键问题本质相关,而对抗域适应似乎是后者的一个有前景的解决方案。因此,我们提出Adv-4-Adv作为一种新颖的对抗训练方法,旨在保持对未见对抗扰动的鲁棒性。本质上,Adv-4-Adv将产生不同扰动的攻击视为不同的域,并通过利用对抗域适应的能力,旨在去除域/攻击特定的特征。这迫使训练模型学习鲁棒的域不变表示,从而增强其泛化能力。在Fashion-MNIST、SVHN、CIFAR-10和CIFAR-100上的大量评估表明,基于简单攻击(例如FGSM)生成的样本通过Adv-4-Adv训练的模型能够泛化到更先进的攻击(例如PGD),且在这些数据集上的性能超过最先进的方案。
引用
@article{arxiv.2112.00428,
title = {Adv-4-Adv: Thwarting Changing Adversarial Perturbations via Adversarial Domain Adaptation},
author = {Tianyue Zheng and Zhe Chen and Shuya Ding and Chao Cai and Jun Luo},
journal= {arXiv preprint arXiv:2112.00428},
year = {2023}
}
备注
22 pages