基于硬标签的小查询量黑盒对抗攻击
机器学习
2024-03-12 v1 人工智能
计算机视觉与模式识别
摘要
我们考虑基于硬标签的黑盒对抗攻击设置，该设置仅观察目标模型的预测类别。在此设置下，大多数攻击方法都需要不切实际数量的查询才能实现成功攻击。解决这一缺点的一种方法是利用白盒代理模型与黑盒目标模型之间的对抗迁移性。然而，采用这种方法的绝大多数方法都是基于软标签的，以充分利用零阶优化。与主流方法不同，我们提出了一种新的基于硬标签攻击的实用设置，其优化过程由预训练的代理模型引导。实验表明，所提出的方法显著提高了各种目标模型架构下基于硬标签的黑盒攻击的查询效率。我们发现，与基准相比，所提出的方法实现了约 5 倍更高的攻击成功率，特别是在 100 和 250 这样的小查询预算下。
引用
@article{arxiv.2403.06014,
title = {Hard-label based Small Query Black-box Adversarial Attack},
author = {Jeonghwan Park and Paul Miller and Niall McLaughlin},
journal= {arXiv preprint arXiv:2403.06014},
year = {2024}
}
备注
11 pages, 3 figures