基于边界引导生成的潜空间对抗防御
机器学习
2019-07-17 v1 密码学与安全
摘要
深度神经网络(DNNs)近来在许多任务中取得了巨大成功,这促使 DNNs 被广泛用作模型共享场景中的机器学习服务。然而,攻击者可以轻易地通过微小扰动生成对抗样本,以欺骗 DNN 模型预测错误标签。为提高共享 DNN 模型抵御对抗攻击的鲁棒性,我们提出了一种称为潜空间对抗防御(Latent Adversarial Defence, LAD)的新方法。所提出的 LAD 方法通过在生成的对抗样本上进行对抗训练来提升 DNN 模型的鲁棒性。与在输入空间中执行且仅生成重复模式对抗样本的流行攻击方法不同,LAD 通过沿决策边界的法向向潜特征添加扰动来生成大量对抗样本,该决策边界由带有注意力机制的 SVM 构建。一旦生成对抗样本,我们便通过将生成的对抗样本扩充到训练数据中来对模型进行对抗训练。在 MNIST、SVHN 和 CelebA 数据集上的大量实验证明了我们的模型在防御不同类型对抗攻击方面的有效性。
引用
@article{arxiv.1907.07001,
title = {Latent Adversarial Defence with Boundary-guided Generation},
author = {Xiaowei Zhou and Ivor W. Tsang and Jie Yin},
journal= {arXiv preprint arXiv:1907.07001},
year = {2019}
}
备注
11 pages