遗忘作为增强图像分类与目标检测中黑盒像素攻击的催化剂
计算机视觉与模式识别
2025-02-13 v1 人工智能
摘要
众所周知,在对抗性黑盒攻击中,基于查询的攻击往往具有相对较高的成功率。尽管黑盒攻击的研究正在积极开展,但针对有限数量像素的像素攻击的研究相对较少。在图像分类中,基于查询的像素攻击通常依赖于图像块,这严重依赖随机性且忽略了分散像素更适合对抗攻击的事实。此外,据我们所知,基于查询的像素攻击尚未在目标检测领域得到探索。为了解决这些问题,我们提出了一种名为基于强化学习的记忆与遗忘像素攻击(RFPAR)的新型基于像素的黑盒攻击,由两个主要组件组成:记忆和遗忘过程。RFPAR 通过利用单步 RL 算法生成的奖励来扰动像素,从而减轻随机性并避免对图像块的依赖。RFPAR 有效地创建了在遵守有限像素约束的同时最小化置信度分数的扰动图像。此外,我们将提出的攻击从图像分类扩展到目标检测,其中 RFPAR 降低了被检测目标的置信度分数以避免被检测。在 ImageNet-1K 数据集上的分类实验表明,RFPAR 优于最先进的基于查询的像素攻击。对于目标检测,使用 MSCOCO 数据集和 YOLOv8 及 DDQ,RFPAR 展示了与最先进的基于查询的攻击相当的 mAP 降低,同时所需查询更少。在使用 YOLOv8 的 Argoverse 数据集上的进一步实验证实,RFPAR 能够在更大规模的数据集上有效移除目标。我们的代码可在 https://github.com/KAU-QuantumAILab/RFPAR 获取。
引用
@article{arxiv.2502.07821,
title = {Amnesia as a Catalyst for Enhancing Black Box Pixel Attacks in Image Classification and Object Detection},
author = {Dongsu Song and Daehwa Ko and Jay Hoon Jung},
journal= {arXiv preprint arXiv:2502.07821},
year = {2025}
}
备注
Accepted as a poster at NeurIPS 2024