面向目标检测的物体伪造定向攻击
计算机视觉与模式识别
2024-09-20 v3 人工智能
摘要
近期研究表明，目标检测网络通常易受对抗样本的攻击。一般而言，针对目标检测的对抗攻击可分为定向攻击与非定向攻击。相较于非定向攻击，定向攻击更具挑战性，且所有现有定向攻击方法均通过误导检测器将检测到的物体误标为特定错误标签来发起攻击。然而，由于这些方法必须依赖于受害图像中检测物体的存在，其在攻击场景与攻击成功率上受限。本文提出一种定向特征空间攻击方法，可误导检测器“伪造”额外的指定物体，而无论受害图像是否包含物体。具体地，我们引入引导图像以提取目标物体的粗粒度特征，并设计一种创新的双注意力机制以高效滤除目标物体的关键特征。所提方法的攻击性能在 MS COCO 与 BDD100K 数据集上基于 FasterRCNN 与 YOLOv5 进行评估。评估结果表明，与先前目标检测定向攻击相比，所提定向特征空间攻击方法在图像特定、通用性与泛化攻击性能方面均显示出显著提升。
引用
@article{arxiv.2212.06431,
title = {Object-fabrication Targeted Attack for Object Detection},
author = {Xuchong Zhang and Changfeng Sun and Haoliang Han and Hongbin Sun},
journal= {arXiv preprint arXiv:2212.06431},
year = {2024}
}