基于高效组合优化的简洁黑盒对抗攻击
机器学习
2022-10-19 v2 密码学与安全
计算机视觉与模式识别
机器学习
摘要
利用投影梯度下降求解对抗样本已被证明能高度有效地欺骗基于神经网络的分类器。然而，在黑盒设定下，攻击者仅能查询网络，求解成功的对抗样本变得困难得多。为此，近期方法旨在基于输入查询估计真实梯度信号，但代价是过多查询。我们提出了一种高效离散代理优化问题，无需估计梯度，因而免于一阶更新超参数的调参。我们在 Cifar-10 和 ImageNet 上的实验显示了最先进的黑盒攻击性能，与若干近期提出的方法相比显著减少了所需查询。源代码见 https://github.com/snu-mllab/parsimonious-blackbox-attack。
引用
@article{arxiv.1905.06635,
title = {Parsimonious Black-Box Adversarial Attacks via Efficient Combinatorial Optimization},
author = {Seungyong Moon and Gaon An and Hyun Oh Song},
journal= {arXiv preprint arXiv:1905.06635},
year = {2022}
}
备注
Accepted and to appear at ICML 2019