幻影海绵：利用非极大值抑制攻击深度目标检测器
计算机视觉与模式识别
2022-11-18 v3 密码学与安全
机器学习
摘要
近年来，针对基于深度学习的物体检测器的对抗攻击已被广泛研究。大多数已提出的攻击针对模型的完整性（即导致模型做出错误预测），而针对模型可用性的对抗攻击——在自动驾驶等安全关键领域中的关键方面——尚未被机器学习研究界探索。在本文中，我们提出一种新颖的攻击，对端到端物体检测流水线的决策延迟产生负面影响。我们精心构造了一种通用对抗扰动（UAP），其目标为集成在许多物体检测器流水线中的一项广泛使用技术——非极大值抑制（NMS）。我们的实验证明了所提出的 UAP 能够通过添加“幻影”物体使 NMS 算法过载从而增加单帧处理时间的能力，同时保留原始物体的检测，这使得攻击能够在更长时间内不被察觉。
引用
@article{arxiv.2205.13618,
title = {Phantom Sponges: Exploiting Non-Maximum Suppression to Attack Deep Object Detectors},
author = {Avishag Shapira and Alon Zolfi and Luca Demetrio and Battista Biggio and Asaf Shabtai},
journal= {arXiv preprint arXiv:2205.13618},
year = {2022}
}