基于非线性投影的梯度估计用于查询高效黑盒攻击
机器学习
2021-04-30 v3 计算机视觉与模式识别
摘要
梯度估计与向量空间投影作为两个不同主题被研究。我们旨在通过研究如何基于投影的低维空间高效估计梯度来弥合二者之间的差距。我们首先给出线性和非线性投影下梯度估计的下界和上界，并概述可检查的充分条件以判断何者更优。此外，我们分析了基于投影的梯度估计的查询复杂度，并给出了查询高效估计量的充分条件。基于我们的理论分析，我们提出了一种新颖的查询高效非线性梯度投影边界黑盒攻击(NonLinear-BA)。我们在四个图像数据集：ImageNet、CelebA、CIFAR-10和MNIST上进行了大量实验，展示了所提方法相比最先进基线的优越性。特别地，我们展示了基于投影的边界黑盒攻击能够基于高效查询以100%攻击成功率实现更小得多的扰动幅度。线性和非线性投影在不同条件下均展现出各自优势。我们还在商业在线API MEGVII Face++上评估了NonLinear-BA，并从定量和定性上展示了高黑盒攻击性能。代码公开于https://github.com/AI-secure/NonLinear-BA。
引用
@article{arxiv.2102.13184,
title = {Nonlinear Projection Based Gradient Estimation for Query Efficient Blackbox Attacks},
author = {Huichen Li and Linyi Li and Xiaojun Xu and Xiaolu Zhang and Shuang Yang and Bo Li},
journal= {arXiv preprint arXiv:2102.13184},
year = {2021}
}
备注
Accepted by AISTATS 2021; 9 pages excluding references and appendices