Decictor：迈向评估自动驾驶系统决策的鲁棒性
人工智能
2025-01-29 v3 神经与进化计算
机器人学
软件工程
摘要
自动驾驶系统 (ADS) 测试在 ADS 开发中至关重要，当前的主要焦点是安全性。然而，非安全关键性能的评估，特别是 ADS 为自动驾驶车辆 (AVs) 做出最优决策和生成最优路径的能力，对于确保 AVs 的智能性和降低风险同样 vital。目前，很少有工作致力于评估 ADS 路径规划决策 (PPDs) 的鲁棒性，即 ADS 在环境发生微小变化后是否能保持最优 PPD。关键挑战包括缺乏评估 PPD 最优性的明确预言机，以及难以搜索导致非最优 PPD 的场景。为填补这一空白，本文专注于评估 ADS PPD 的鲁棒性，并提出了第一种生成非最优决策场景 (NoDSs) 的方法 Decictor，在该场景中 ADS 未为 AVs 规划最优路径。Decictor 包含三个主要组件：非侵入式变异、一致性检查和反馈。为克服预言机挑战，设计了非侵入式变异以实施保守修改，确保在变异场景中保留原始最优路径。随后，应用一致性检查，通过比较原始场景和变异场景中的驾驶路径来确定是否存在非最优 PPD。为应对大环境空间的挑战，我们设计了整合 AV 运动时空维度的反馈指标。这些指标对于有效引导 NoDSs 的生成至关重要。我们在开源且生产级的 ADS 百度 Apollo 上评估了 Decictor。实验结果验证了 Decictor 在检测 ADS 非最优 PPD 方面的有效性。
引用
@article{arxiv.2402.18393,
title = {Decictor: Towards Evaluating the Robustness of Decision-Making in Autonomous Driving Systems},
author = {Mingfei Cheng and Yuan Zhou and Xiaofei Xie and Junjie Wang and Guozhu Meng and Kairui Yang},
journal= {arXiv preprint arXiv:2402.18393},
year = {2025}
}