通过可视化因果注意力实现自动驾驶汽车的可解释学习
计算机视觉与模式识别
2017-04-03 v1 机器学习
摘要
深度神经感知与控制网络很可能成为自动驾驶车辆的关键组件。这些模型需要具备可解释性——它们应为其行为提供易于理解的依据——以便乘客、保险公司、执法部门、开发者等能够理解是什么触发了特定行为。本文探索了视觉解释的使用。这些解释表现为对网络输出（转向控制）产生因果影响的图像实时高亮区域。我们的方法分为两个阶段。在第一阶段，我们使用视觉注意力模型，以端到端的方式训练一个从图像到转向角的卷积网络。注意力模型突出显示可能影响网络输出的图像区域。其中一些是真实影响，另一些则是虚假的。随后我们应用因果过滤步骤，以确定哪些输入区域实际影响了输出。这产生了更简洁的视觉解释，并更准确地揭示了网络的行为。我们在总计 16 小时驾驶的三个数据集上展示了模型的有效性。我们首先表明，使用注意力进行训练不会降低端到端网络的性能。然后我们表明，网络对人类驾驶时使用的各种特征产生了因果线索。
引用
@article{arxiv.1703.10631,
title = {Interpretable Learning for Self-Driving Cars by Visualizing Causal Attention},
author = {Jinkyu Kim and John Canny},
journal= {arXiv preprint arXiv:1703.10631},
year = {2017}
}