基于置信度的目标检测框扭曲感知对抗攻击
计算机视觉与模式识别
2024-12-30 v1
摘要
深度学习基于目标检测模型在过去十年里因其在许多实际应用中的高准确率而变得无处不在。随着这一趋势的增长，这些模型正被对手所攻击，尽管大多数结果都针对分类器，这些结果并不符合实际目标检测的情境。在本工作中，我们提出了一种新颖的方法来欺骗目标检测器，暴露最新检测器的脆弱性，并推动后续工作构建更健壮的检测器以抵御对抗性示例。我们的方法旨在通过在训练期间扰动目标置信度得分来生成对抗图像，这在测试阶段对于预测每个类别的置信度至关重要。在此，我们提供了一种更直观的技术，通过利用检测对象掩码和训练损失中的梯度来嵌入基于检测对象的加性噪声，并对原始图像进行扭曲控制。为验证所提出的方法，我们对不同的目标检测器进行对抗攻击，包括最新的 SOTA 模型，如 YOLOv8、Faster R-CNN、RetinaNet 和 Swin Transformer。我们还在 MS COCO 2017 和 PASCAL VOC 2012 数据集上评估了该技术，并分析了成功攻击率与图像扭曲之间的权衡。我们的实验表明，在进行白盒和黑盒攻击时，可实现的成功攻击率分别可达到 \% 和 \%。本工作的源代码和相关文档可在以下链接获取: https://github.com/anonymous20210106/attack_detector
引用
@article{arxiv.2412.18815,
title = {Distortion-Aware Adversarial Attacks on Bounding Boxes of Object Detectors},
author = {Pham Phuc and Son Vuong and Khang Nguyen and Tuan Dang},
journal= {arXiv preprint arXiv:2412.18815},
year = {2024}
}