基于意图感知策略图的自动驾驶解释

近些年来，自动驾驶领域因有望提高道路安全性、减少人类驾驶错误并促进环境可持续发展而取得了快速进展。自动驾驶车辆的性能得益于人工智能，特别是深度学习的不断进步。然而，其决策过程的不透明性——根植于使用准确但复杂 AI 模型——已创建了对其社会信任和监管接受的障碍，催生了可解释性的需求。我们提出一种后置且模型无关的解决方案，为城市环境中自动驾驶车辆的行为提供 teleological 解释。基于意图感知策略图，我们的方法使能够从全局和局部视角从 nuScenes 数据集中提取可解释且可靠的车辆行为解释。我们展示了这些解释的潜力，用于评估车辆是否在可接受的法律边界内运行，并识别自动驾驶数据集和模型可能存在的漏洞。