一种用于深度网络对抗样本生成的进化、无梯度、查询高效黑盒算法
计算机视觉与模式识别
2022-11-29 v2 神经与进化计算
摘要
深度神经网络（DNNs）在多种场景下对对抗数据敏感，包括黑盒场景，其中攻击者仅被允许查询训练好的模型并接收输出。现有的用于生成对抗样本的黑名单方法代价高昂，常使用梯度估计或训练替代网络。本文提出\textbf{Qu}ery-Efficient \textbf{E}volutiona\textbf{ry} \textbf{Attack}（\textit{QuEry Attack}），一种无目标、基于分数的黑盒攻击。QuEry Attack基于一种可用于无梯度优化问题的新颖目标函数。该攻击仅需访问分类器的输出logits，因此不受梯度掩蔽影响。无需额外信息，使我们的方法更适用于真实场景。我们在三种不同最先进模型——Inception-v3、ResNet-50和VGG-16-BN——上针对三个基准数据集MNIST、CIFAR10和ImageNet测试了其性能。此外，我们在非微分变换防御和最先进鲁棒模型上评估了QuEry Attack的性能。我们的结果展示了QuEry Attack在准确率分数和查询效率两方面的优越性能。
引用
@article{arxiv.2208.08297,
title = {An Evolutionary, Gradient-Free, Query-Efficient, Black-Box Algorithm for Generating Adversarial Instances in Deep Networks},
author = {Raz Lapid and Zvika Haramaty and Moshe Sipper},
journal= {arXiv preprint arXiv:2208.08297},
year = {2022}
}