APRICOT：面向目标检测的物理对抗攻击数据集
计算机视觉与模式识别
2023-07-21 v2
摘要
物理对抗攻击威胁到愚弄目标检测系统，但关于物理补丁在真实世界中的有效性及如何防御它们的可复现研究，需要一个公开可用的基准数据集。我们提出 APRICOT，一个包含超过 1000 张在公共场所拍摄的打印对抗补丁标注照片的集合。这些补丁针对三个 COCO 训练的检测模型的若干目标类别，照片体现了位置、距离、光照条件和视角上的自然变化。我们的分析表明，在非受控环境中保持对抗鲁棒性极具挑战性，但在白盒甚至某些黑盒设置下仍可能产生定向检测。我们通过多种方法建立了防御对抗补丁的基线，包括使用合成数据监督的检测器，以及核密度估计、贝叶斯不确定性和重建误差等无监督方法。我们的结果表明，无论是在高知识、针对特定攻击的场景中，还是在将补丁作为自然图像中的异常来检测的无监督设置下，都可以有效地标记对抗补丁。该数据集及所述实验为未来关于真实世界中物理对抗物体的有效性及防御的研究提供了基准。
引用
@article{arxiv.1912.08166,
title = {APRICOT: A Dataset of Physical Adversarial Attacks on Object Detection},
author = {Anneliese Braunegg and Amartya Chakraborty and Michael Krumdick and Nicole Lape and Sara Leary and Keith Manville and Elizabeth Merkhofer and Laura Strickhart and Matthew Walmer},
journal= {arXiv preprint arXiv:1912.08166},
year = {2023}
}
备注
23 pages, 14 figures, 3 tables. Updated version as accepted to ECCV 2020