对抗攻击下协同目标检测的不确定性量化
计算机视觉与模式识别
2025-02-05 v1 机器学习
摘要
协同目标检测（COD）和协同感知可以整合来自不同实体的数据或特征，与个体感知相比，能提高目标检测的准确性。然而，对抗攻击对深度学习COD模型构成潜在威胁，并引入高输出不确定性。在攻击模型未知的情况下，提高COD的弹性并量化高度动态感知场景（如自动驾驶车辆）的输出不确定性变得更具挑战性。在本研究中，我们提出了协同感知中的可信不确定性量化框架（TUQCP）。TUQCP利用对抗训练和不确定性量化技术来增强现有COD模型的对抗鲁棒性。具体来说，TUQCP首先在目标检测协作期间，通过对抗训练向随机选择的智能体的共享信息中添加扰动。然后，TUQCP通过基于学习的模块提供输出不确定性估计，并通过共形预测进行不确定性校准，从而减轻对抗攻击的影响。我们的框架适用于早期和中期协作的COD模型以及单智能体目标检测模型。我们在V2X-Sim（一个用于自动驾驶的综合协同感知数据集）上评估了TUQCP，并证明在相同的对抗攻击下，与基线相比，目标检测准确性提高了80.41%。TUQCP证明了在对抗攻击下对COD进行不确定性量化的重要性。
引用
@article{arxiv.2502.02537,
title = {Uncertainty Quantification for Collaborative Object Detection Under Adversarial Attacks},
author = {Huiqun Huang and Cong Chen and Jean-Philippe Monteuuis and Jonathan Petit and Fei Miao},
journal= {arXiv preprint arXiv:2502.02537},
year = {2025}
}