面向端到端自动驾驶的可解释决策

可信人工智能是自动驾驶汽车广泛部署的必要条件。尽管端到端方法直接从原始数据中导出控制命令，但解释这些决策仍然具有挑战性，尤其是在复杂的城市场景中。这主要归因于具有非线性决策边界的极深神经网络，使得理解人工智能驱动决策背后的逻辑变得困难。本文提出了一种在自动驾驶中优化控制命令的同时增强可解释性的方法。为了解决这个问题，我们提出了损失函数，通过生成稀疏和局部化的特征图来提升我们模型的可解释性。特征激活使我们能够解释哪些图像区域对预测的控制命令有贡献。我们对特征提取步骤进行了全面的消融研究，并在CARLA基准上验证了我们的方法。我们还证明了我们的方法提高了可解释性，这与减少违规行为相关，从而产生了一个更安全、高性能的驾驶模型。值得注意的是，我们的单目、非集成模型超越了CARLA排行榜上的顶级方法，取得了更低的违规分数和最高的路线完成率，同时确保了可解释性。