探测器坍塌：面向自动驾驶的物理世界对象检测后门攻击导致严重性能下降或失明
计算机视觉与模式识别
2024-08-16 v2
摘要
对象检测任务在安全关键系统（如自动驾驶）中至关重要，旨在定位物体位置。这些检测器已知易受到后门攻击的威胁。然而，现有后门技术主要是从分类任务中移植而来，忽略了针对对象检测更深层次的脆弱性。本文致力于弥补这一差距，提出一种全新的后门攻击范式——探测器坍塌（Detector Collapse, DC），专为对象检测设计。DC 旨在瞬间使检测器失效（即严重损害检测器性能，导致服务拒绝）。为此，我们开发了两种创新的攻击方案：Sponge 用于触发广泛的误识别，Blinding 用于使物体不可见。值得注意的是，我们引入一种新颖的投毒策略，利用自然物体，使 DC 能作为实际可行的后门在现实环境中发挥作用。在多个基准数据集上对不同检测器进行实验，显示相较于最先进的攻击方法，攻击效果显著提升（约 10%-60% 的绝对提升，约 2-7 倍的相对提升）。
引用
@article{arxiv.2404.11357,
title = {Detector Collapse: Physical-World Backdooring Object Detection to Catastrophic Overload or Blindness in Autonomous Driving},
author = {Hangtao Zhang and Shengshan Hu and Yichen Wang and Leo Yu Zhang and Ziqi Zhou and Xianlong Wang and Yanjun Zhang and Chao Chen},
journal= {arXiv preprint arXiv:2404.11357},
year = {2024}
}
备注
Accepted to IJCAI 2024