解释与否：自动驾驶车辆解释必要性研究
人工智能
2022-12-22 v4 人机交互
摘要
在自动驾驶系统等自主系统的背景下，可解释AI（Explainable AI）已引起研究人员的广泛关注。近期研究发现，为自动驾驶车辆的行为提供解释具有诸多益处（如提升信任与接受度），但很少强调何时需要解释以及解释内容如何随驾驶情境变化。在本工作中，我们调查了人们在哪些场景下需要解释，以及解释的临界程度如何随情境与驾驶员类型而转变。通过一项用户实验，我们请参与者评估解释的必要性程度，并测量不同情境下其对自动驾驶车辆信任度的影响。此外，我们提出了一个自动驾驶解释数据集，包含第一人称解释以及针对1103个视频片段的必要性度量，扩充了Berkeley Deep Drive Attention数据集。我们的研究揭示，驾驶员类型与驾驶场景决定了是否需要解释。具体而言，人们倾向于对近碰撞事件的必要性达成共识，但对普通或异常驾驶情形持有不同意见。
引用
@article{arxiv.2006.11684,
title = {To Explain or Not to Explain: A Study on the Necessity of Explanations for Autonomous Vehicles},
author = {Yuan Shen and Shanduojiao Jiang and Yanlin Chen and Katie Driggs Campbell},
journal= {arXiv preprint arXiv:2006.11684},
year = {2022}
}
备注
Won Best Paper Award at NeurIPS 2022 Progress and Challenges in Building Trustworthy Embodied AI Workshop (TEA 2022)