关于领域自适应对对抗攻击的鲁棒性
计算机视觉与模式识别
2021-08-05 v1
摘要
最先进的深度神经网络（DNNs）已被证明在无监督领域自适应（UDA）上具有优异的性能。然而，最近的工作表明，DNNs 在受到对抗样本攻击时表现不佳，这些攻击仅通过向原始图像添加微小扰动来实现。尽管已有大量工作关注于此，但据我们所知，目前尚无关于无监督领域自适应模型鲁棒性的系统性研究。因此，我们首次探讨了无监督领域自适应对抗攻击的鲁棒性。我们基准测试了领域自适应中对抗攻击和防御的各种设置，并提出了一种基于伪标签的跨域攻击方法。最重要的是，我们分析了不同数据集、模型、攻击方法和防御方法的影响。我们的工作直接证明了无监督领域自适应模型的有限鲁棒性，我们希望我们的工作能促使社区更加关注提高模型对抗攻击的鲁棒性。
引用
@article{arxiv.2108.01807,
title = {On the Robustness of Domain Adaption to Adversarial Attacks},
author = {Liyuan Zhang and Yuhang Zhou and Lei Zhang},
journal= {arXiv preprint arXiv:2108.01807},
year = {2021}
}
备注
10 pages, 4 figures