ManiGen：一种流形辅助的黑盒对抗样本生成器
密码学与安全
2020-07-14 v1 机器学习
机器学习
摘要
机器学习模型，尤其是神经网络（NN）分类器，具有可接受的性能与准确率，因而被广泛应用于我们日常生活的各个方面。其潜在假设是这些模型在无攻击的场景下生成与使用。然而，已有研究表明基于神经网络的分类器易受对抗样本的攻击。对抗样本是带有特殊扰动的输入，人眼会忽略这些扰动，但它们却能误导 NN 分类器。现有大多数生成此类扰动的方法需要一定程度了解目标分类器，这使得它们不够实用。例如，一些生成器需要预 softmax 对数几率的知识，而另一些利用预测分数。在本文中，我们设计了一个实用的黑盒对抗样本生成器，称为 ManiGen。ManiGen 不需要目标分类器内部状态的任何知识。它通过在流形上搜索来生成对抗样本，而流形是输入数据的简洁表示。通过在多个不同数据集上的大量实验，我们表明：(1) ManiGen 生成的对抗样本可误导独立分类器，其成功率与最先进的白盒生成器 Carlini 相当；(2) ManiGen 生成的对抗样本能更有效地攻击具有最先进防御的分类器。
引用
@article{arxiv.2007.05817,
title = {ManiGen: A Manifold Aided Black-box Generator of Adversarial Examples},
author = {Guanxiong Liu and Issa Khalil and Abdallah Khreishah and Abdulelah Algosaibi and Adel Aldalbahi and Mohammed Alaneem and Abdulaziz Alhumam and Mohammed Anan},
journal= {arXiv preprint arXiv:2007.05817},
year = {2020}
}