利用类条件GAN定制对抗样本生成器
计算机视觉与模式识别
2018-06-28 v1 密码学与安全
摘要
对抗样本是有意构造的数据，旨在欺骗神经网络使其误分类。谈及构造此类样本的策略时，通常指基于扰动的方法，通过对正常数据施加不可见扰动来制造对抗样本。所得数据对人类观察者保留视觉外观，却对DNN模型完全不可辨识，进而导致极具误导性的预测。然而本文认为，从现有数据craft对抗样本限制了样本多样性。我们提出一种非基于扰动的框架，从类条件生成对抗网络生成原生对抗样本。如此，生成的数据将不与任何现有数据相似，从而扩展样本多样性，增加对抗防御难度。我们随后将该框架扩展至预训练条件GAN，将已有生成器转变为“对抗样本生成器”。我们在MNIST与CIFAR10数据集上对该方法进行实验并取得满意结果，表明该方法可成为以往攻击策略的潜在替代方案。
引用
@article{arxiv.1806.10496,
title = {Customizing an Adversarial Example Generator with Class-Conditional GANs},
author = {Shih-hong Tsai},
journal= {arXiv preprint arXiv:1806.10496},
year = {2018}
}