对抗检测:实时攻击目标检测
人工智能
2023-12-13 v6 计算机视觉与模式识别
机器人学
摘要
智能机器人依赖目标检测模型来感知环境。随着深度学习安全性的进展,已揭示目标检测模型易受对抗攻击。然而,先前研究主要关注攻击静态图像或离线视频。因此,此类攻击是否会危及动态环境中真实世界机器人应用仍不清楚。本文通过提出首个针对目标检测模型的实时在线攻击弥补了这一差距。我们设计了三种攻击,在期望位置为不存在的物体伪造边界框。这些攻击在约20次迭代内达到约90%的成功率。演示视频见 https://youtu.be/zJZ1aNlXsMU。
引用
@article{arxiv.2209.01962,
title = {Adversarial Detection: Attacking Object Detection in Real Time},
author = {Han Wu and Syed Yunas and Sareh Rowlands and Wenjie Ruan and Johan Wahlstrom},
journal= {arXiv preprint arXiv:2209.01962},
year = {2023}
}
备注
Accepted by IEEE Intelligent Vehicle Symposium, 2023