AT-GAN:一种用于无约束对抗样本的生成对抗模型
计算机视觉与模式识别
2020-02-10 v4 密码学与安全
机器学习
摘要
尽管对抗机器学习发展迅速,大多数对抗攻击与防御研究主要关注基于扰动的对抗样本,其受输入图像约束。与现有工作相比,我们提出了无约束对抗样本,其完全从零生成,对输入无任何约束。不同于基于扰动的攻击,或仍受输入噪声约束的所谓无限制对抗攻击,我们旨在学习对抗样本的分布以生成无约束但具有语义意义的对抗样本。遵循这一思路,我们提出了一种称为 AT-GAN(生成对抗网络上的对抗迁移,Adversarial Transfer on Generative Adversarial Net)的新型攻击框架。具体而言,我们首先开发一个普通 GAN 模型来学习良性数据的分布,然后将预训练的 GAN 模型迁移以估计目标模型的对抗样本分布。通过这种方式,AT-GAN 可以学习与真实数据分布非常接近的对抗样本分布。据我们所知,这是首个构建能够从任意输入噪声直接生成对抗样本的生成对抗模型的工作。大量实验与可视化表明,所提出的 AT-GAN 能非常高效地生成对人类感知更真实多样的对抗样本。此外,在白盒攻击设定下,AT-GAN 对对抗训练模型获得了更高的攻击成功率,并对黑盒模型表现出适度的可迁移性。
引用
@article{arxiv.1904.07793,
title = {AT-GAN: An Adversarial Generator Model for Non-constrained Adversarial Examples},
author = {Xiaosen Wang and Kun He and Chuanbiao Song and Liwei Wang and John E. Hopcroft},
journal= {arXiv preprint arXiv:1904.07793},
year = {2020}
}
备注
15 pages, 6 figures