面向协作传感器融合中攻击与防御分析的多智能体安全测试平台
机器人学
2024-01-18 v1 系统与控制
系统与控制
摘要
自动驾驶汽车在恶劣环境和对抗性行为下性能与安全性会下降。对多传感器、多智能体自动驾驶汽车的投资旨在提高出行效率并降低安全风险。不幸的是，在开发安全感知的多传感器多智能体传感器融合管线方面投入甚少，使其易受对抗攻击。为了推进自动驾驶汽车的安全性分析，我们在机器人操作系统(ROS2)中开发了多智能体安全测试平台MAST。我们的框架可扩展至一般自动驾驶场景，并与最新的多智能体数据集集成。我们构建了AVstack与ROS之间的首个桥梁，并开发了自动化自动驾驶管线构建以实现快速原型设计。我们通过动态主题重映射解决了在启动时部署可变数量智能体/对抗节点的问题。利用该测试平台，我们通过案例研究和蒙特卡洛分析揭示了集中式多智能体融合管线对（非）协调对抗模型的脆弱性，从而激发了安全感知自动驾驶架构的需求。
引用
@article{arxiv.2401.09387,
title = {A Multi-Agent Security Testbed for the Analysis of Attacks and Defenses in Collaborative Sensor Fusion},
author = {R. Spencer Hallyburton and David Hunt and Shaocheng Luo and Miroslav Pajic},
journal= {arXiv preprint arXiv:2401.09387},
year = {2024}
}