SafeCoop: 揭示代理协作驾驶全栈安全性
计算机视觉与模式识别
2025-10-22 v1 人工智能
计算与语言
机器人学
摘要
代理协作驾驶系统利用车联网 (V2X) 通信跨多个代理，旨在提高驾驶安全和效率。传统V2X系统采用原始传感器数据、神经特征或感知结果作为通信媒介，面临带宽需求高、语义丢失和互操作性问题等持续挑战。近期进展探索将自然语言作为潜在媒介，由于其在显著降低带宽要求下，能够提供语义丰富性、决策层次推理和人机互操作性。尽管前景光明，但这一范式转变也在语言通信中引入了新的漏洞，包括消息丢失、幻觉、语义操纵和对抗攻击。本文提出了对自然语言基于协作驾驶全栈安全和安全性的首个系统性研究。具体而言，我们发展了一套全面的攻击策略分类，包括连接中断、信使/中继干扰、内容伪造和多连接伪造。为缓解这些风险，我们引入了一个代理防御管道，称为SafeCoop，集成了语义防火墙、语言-感知一致性检查和多源共识，由一种用于跨帧空间对齐的代理转换函数实现。我们在CARLA仿真中对SafeCoop进行了系统评估，覆盖32个关键场景，在恶意攻击下实现了69.15%的驾驶得分提升，恶意检测达到最高可达67.32%的F1分数。该研究为推进基于语言驱动的交通系统安全、可信赖的协作研究提供了指导。我们的项目页面为 https://xiangbogaobarry.github.io/SafeCoop。
引用
@article{arxiv.2510.18123,
title = {SafeCoop: Unravelling Full Stack Safety in Agentic Collaborative Driving},
author = {Xiangbo Gao and Tzu-Hsiang Lin and Ruojing Song and Yuheng Wu and Kuan-Ru Huang and Zicheng Jin and Fangzhou Lin and Shinan Liu and Zhengzhong Tu},
journal= {arXiv preprint arXiv:2510.18123},
year = {2025}
}