探索端到端自动驾驶的因果性
计算机视觉与模式识别
2024-07-22 v2 机器人学
摘要
基于深度学习的模型被广泛应用于自动驾驶领域,尤其是日益受到关注的端到端解决方案。然而,这些模型的黑箱特性引发了对其在自动驾驶中可信度和安全性的担忧,如何调试因果性已成为一个紧迫的问题。尽管已有一些关于自动驾驶可解释性的研究,但目前尚无系统性的解决方案来帮助研究人员调试和识别导致端到端自动驾驶最终预测动作的关键因素。本文提出了一种全面探索和分析端到端自动驾驶因果性的方法。首先,我们通过使用控制变量和反事实干预进行定性分析,验证了最终规划所依赖的关键信息。然后,我们通过可视化和统计分析关键模型输入的响应,定量评估了影响模型决策的因素。最后,基于对多因素端到端自动驾驶系统的全面研究,我们在闭环模拟器CARLA中开发了一个强大的基线和用于探索因果性的工具。它利用关键输入源获得精心设计的模型,从而产生极具竞争力的能力。据我们所知,我们的工作是首次揭开端到端自动驾驶的神秘面纱,将黑箱变为白箱。彻底的闭环实验表明,我们的方法可应用于端到端自动驾驶解决方案的因果性调试。代码将在https://github.com/bdvisl/DriveInsight提供。
引用
@article{arxiv.2407.06546,
title = {Exploring the Causality of End-to-End Autonomous Driving},
author = {Jiankun Li and Hao Li and Jiangjiang Liu and Zhikang Zou and Xiaoqing Ye and Fan Wang and Jizhou Huang and Hua Wu and Haifeng Wang},
journal= {arXiv preprint arXiv:2407.06546},
year = {2024}
}