利用标准化流生成黑盒对抗样本
机器学习
2020-07-07 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
深度神经网络分类器存在对抗脆弱性：对输入数据精心制作、难以察觉的改动可影响分类器决策。就此而言，研究强大的对抗攻击有助于揭示这种恶意行为的来源。在本文中，我们提出一种使用标准化流的新型黑盒对抗攻击。我们展示如何通过搜索预训练基于流的模型基分布来发现对抗样本。如此，我们可以生成与原始数据高度相似的对抗样本，因为扰动呈数据形状。随后我们展示了所提方法相对于知名黑盒对抗攻击方法的竞争性性能。
引用
@article{arxiv.2007.02734,
title = {Black-box Adversarial Example Generation with Normalizing Flows},
author = {Hadi M. Dolatabadi and Sarah Erfani and Christopher Leckie},
journal= {arXiv preprint arXiv:2007.02734},
year = {2020}
}
备注
Accepted to the 2nd workshop on Invertible Neural Networks, Normalizing Flows, and Explicit Likelihood Models (ICML 2020), Virtual Conference