ADBA：面向黑盒对抗攻击的近似决策边界方法
机器学习
2024-06-13 v2 人工智能
计算机视觉与模式识别
摘要
许多机器学习模型容易受到对抗攻击，其中基于决策的黑盒攻击代表了实际应用中最关键的威胁。这些攻击极其隐蔽，利用从目标机器学习模型获得的硬标签生成对抗样本。这通常通过优化扰动方向来实现，由通过查询密集型精确搜索确定的决策边界引导，这严重限制了攻击成功率。本文提出了一种新方法，使用近似决策边界（ADB）来高效准确地比较扰动方向，而无需精确确定决策边界。我们的ADB方法（ADBA）的有效性取决于及时识别合适的ADB，确保所有扰动方向的可靠区分。为此，我们分析了决策边界的概率分布，确认使用分布的中位数作为ADB可以有效区分不同的扰动方向，从而开发了ADBA-md算法。ADBA-md平均仅需四次查询即可区分任意一对扰动方向，具有很高的查询效率。在六个知名图像分类器上的大量实验清楚地证明了ADBA和ADBA-md相对于多种最先进黑盒攻击的优越性。源代码可在https://github.com/BUPTAIOC/ADBA获取。
引用
@article{arxiv.2406.04998,
title = {ADBA:Approximation Decision Boundary Approach for Black-Box Adversarial Attacks},
author = {Feiyang Wang and Xingquan Zuo and Hai Huang and Gang Chen},
journal= {arXiv preprint arXiv:2406.04998},
year = {2024}
}
备注
10 pages, 5 figures, conference