域不变对抗学习
机器学习
2022-09-14 v4 计算机视觉与模式识别
摘要
对抗样本现象揭示了深度神经网络最基础的脆弱性之一。在为解决这一固有弱点而引入的多种技术中，对抗训练已成为学习鲁棒模型的最有效策略。通常，这是通过平衡鲁棒目标与自然目标来实现的。在本文中，我们旨在通过强制域不变特征表示来进一步优化鲁棒精度与标准精度之间的权衡。我们提出一种新的对抗训练方法——域不变对抗学习（DIAL），它学习一种既鲁棒又域不变的特征表示。DIAL在自然域及其对应的对抗域上使用了域对抗神经网络（DANN）的一种变体。在源域由自然样本组成、目标域为对抗扰动样本的情况下，我们的方法学习一种被约束为不区分自然样本与对抗样本的特征表示，从而能获得更鲁棒的表示。DIAL是一种通用且模块化的技术，可轻松融入任何对抗训练方法中。我们的实验表明，在对抗训练过程中加入DIAL可同时提升鲁棒性与标准精度。
引用
@article{arxiv.2104.00322,
title = {Domain Invariant Adversarial Learning},
author = {Matan Levi and Idan Attias and Aryeh Kontorovich},
journal= {arXiv preprint arXiv:2104.00322},
year = {2022}
}