Robustness-via-Synthesis：基于生成对抗扰动的鲁棒训练
计算机视觉与模式识别
2021-08-24 v1
摘要
在对抗攻击被发现后，基于深度学习的系统必须具备鲁棒模型。基于一阶攻击的对抗训练至今仍是对抗扰动最有效的防御手段之一。大多数对抗训练方法侧重于利用损失函数相对于输入图像的梯度对每个像素进行迭代扰动。然而，基于梯度的攻击对抗训练缺乏多样性，且对自然图像和各类攻击的泛化能力不佳。本研究提出一种鲁棒训练算法，其中对抗扰动由生成器网络从随机向量自动合成。分类器以交叉熵损失进行训练，并以自然样本与合成对抗样本在表征间的最优传输距离作为正则项。与主流生成式防御不同，所提出的一步攻击生成框架无需利用分类器损失的梯度即可合成多样化扰动。实验结果表明，该方法在CIFAR10、CIFAR100和SVHN数据集上取得了与多种基于梯度和生成式的鲁棒训练技术相当的鲁棒性。此外，与基线相比，所提出的鲁棒训练框架对自然样本具有更好的泛化能力。代码与训练模型将公开提供。
引用
@article{arxiv.2108.09713,
title = {Robustness-via-Synthesis: Robust Training with Generative Adversarial Perturbations},
author = {Inci M. Baytas and Debayan Deb},
journal= {arXiv preprint arXiv:2108.09713},
year = {2021}
}