动态欺骗:当行人联手愚弄自动驾驶汽车
密码学与安全
2026-02-23 v1 机器人学
摘要
许多针对自动驾驶感知模型的对抗性攻击在部署到完整驾驶堆栈后,未能引起系统级故障。这种无效的主要原因是,一旦部署在系统中(例如在模拟器内),由于车辆的动力学特性,攻击往往在空间或时间上是短暂的,因此很少影响车辆行为。在本文中,我们通过引入一种系统级攻击来解决这两个局限性,其中多个动态元素(例如两个行人)携带对抗性补丁(例如在衣物上),并通过协调和运动共同放大其效果。我们使用最先进的自动驾驶智能体在CARLA模拟器中评估了我们的攻击。在系统层面,单行人攻击在所有运行中(共10次)均失败,而两个行人的动态共谋在高达50%的运行中导致车辆完全停止,静态共谋则完全没有成功攻击。这些结果表明,只有当对抗信号随时间持续并通过协调参与者放大时,系统级故障才会出现,这暴露了模型级鲁棒性与端到端安全性之间的差距。
引用
@article{arxiv.2602.18079,
title = {Dynamic Deception: When Pedestrians Team Up to Fool Autonomous Cars},
author = {Masoud Jamshidiyan Tehrani and Marco Gabriel and Jinhan Kim and Paolo Tonella},
journal= {arXiv preprint arXiv:2602.18079},
year = {2026}
}