驶过概念僵局：厘清自动驾驶中可解释性瓶颈
计算机视觉与模式识别
2023-10-27 v2 机器学习
摘要
概念瓶颈模型已成功用于可解释机器学习，其通过一组人类定义的概念在模型内编码信息。在人辅助或自动驾驶背景下，可解释模型有助于用户接受并理解自动驾驶车辆所做的决策，从而可用于合理化并解释驾驶员或车辆行为。我们提出一种新方法，使用概念瓶颈作为视觉特征，用于控制信号预测以及对用户与车辆行为的解释。我们学习一个人类可理解的概念层，用于在习得车辆控制信号的同时解释连续驾驶场景。该方法随后可用于判断人类（或自动驾驶车辆）在偏好车距或转向指令上的变化是由外部刺激还是偏好改变所导致。我们在获得模型内部可解释性的同时，取得了与潜在视觉特征相竞争的性能。
引用
@article{arxiv.2310.16639,
title = {Driving through the Concept Gridlock: Unraveling Explainability Bottlenecks in Automated Driving},
author = {Jessica Echterhoff and An Yan and Kyungtae Han and Amr Abdelraouf and Rohit Gupta and Julian McAuley},
journal= {arXiv preprint arXiv:2310.16639},
year = {2023}
}