基于摄像头的3D目标检测之对抗鲁棒性研究
计算机视觉与模式识别
2024-01-22 v2 人工智能
摘要
近年来，基于摄像头的 3D 目标检测因能以低计算成本实现高性能而受到广泛关注。然而，这些方法的对抗攻击鲁棒性尚未被充分考察，尤其考虑到其在自动驾驶等安全关键领域的部署。在本研究中，我们首次对领先基于摄像头的 3D 目标检测方法在各种对抗条件下的鲁棒性进行了全面调研。我们系统分析了这些模型在两种攻击设定下的韧性：白盒与黑盒；聚焦于两个主要目标：分类与定位。此外，我们深入探讨了两类对抗攻击技术：基于像素与基于补丁。我们的实验得出四个有趣发现：（a）基于鸟瞰图的表征对定位攻击表现出更强鲁棒性；（b）无深度估计方法有望展现更强鲁棒性；（c）准确的深度估计有效提升基于深度估计方法的鲁棒性；（d）引入多帧良性输入可有效缓解对抗攻击。我们希望我们的发现能指引未来具有增强对抗鲁棒性的基于摄像头目标检测模型的发展。
引用
@article{arxiv.2301.10766,
title = {On the Adversarial Robustness of Camera-based 3D Object Detection},
author = {Shaoyuan Xie and Zichao Li and Zeyu Wang and Cihang Xie},
journal= {arXiv preprint arXiv:2301.10766},
year = {2024}
}
备注
Transactions on Machine Learning Research, 2024. ISSN 2835-8856