一种针对目标检测系统的人在中途攻击
机器人学
2024-07-12 v4 计算机视觉与模式识别
摘要
使用深度学习模型的目标检测系统因嵌入式系统中 CPU 与 GPU 算力的提升而在机器人领域日益流行。然而，这些模型易受对抗攻击。尽管某些攻击受限于对检测系统访问的严格假设，我们提出一种受密码学中中间人攻击启发的新型硬件攻击。该攻击生成通用对抗扰动（UAP），并通过硬件攻击将扰动注入 USB 摄像头与检测系统之间。此外，先前的研究被一种衡量模型精度而非攻击性能的评估指标所误导。结合我们提出的评估指标，我们显著增强了对抗扰动的强度。这些发现对自动驾驶等安全关键系统中深度学习模型的应用提出了严重担忧。
引用
@article{arxiv.2208.07174,
title = {A Human-in-the-Middle Attack against Object Detection Systems},
author = {Han Wu and Sareh Rowlands and Johan Wahlstrom},
journal= {arXiv preprint arXiv:2208.07174},
year = {2024}
}
备注
Accepted by IEEE Transactions on Artificial Intelligence, 2024