Decision-BADGE：基于决策的对抗批量攻击与方向性梯度估计
计算机视觉与模式识别
2023-08-15 v2
摘要
深度神经网络（DNNs）对对抗样本的易感性促使对抗攻击的部署日益增多。图像无关的通用对抗扰动（UAPs）威胁性更大，但在仅返回二元决策的真实场景中实现 UAPs 仍存在诸多局限。本研究提出 Decision-BADGE，一种用于生成通用对抗扰动以执行基于决策的黑盒攻击的新方法。为利用决策优化扰动，我们解决了两个挑战，即梯度的幅值与方向。首先，我们使用批量损失、来自真实标签分布的差异以及在批次中累积的决策来确定梯度的幅值。该幅值被应用于修正后的同时扰动随机逼近（SPSA）的方向以更新扰动。这一简单而高效的方法可轻松扩展至基于分数的攻击以及定向攻击。在多个受害模型上的实验验证表明，Decision-BADGE 优于现有攻击方法，甚至优于图像特定与基于分数的攻击。特别地，我们所提方法以更短的训练时间展现出更高的成功率。研究还表明 Decision-BADGE 能成功欺骗未见过的受害模型并准确瞄准特定类别。
引用
@article{arxiv.2303.04980,
title = {Decision-BADGE: Decision-based Adversarial Batch Attack with Directional Gradient Estimation},
author = {Geunhyeok Yu and Minwoo Jeon and Hyoseok Hwang},
journal= {arXiv preprint arXiv:2303.04980},
year = {2023}
}
备注
9 pages (7 pages except for references), 4 figures, 4 tables