自动驾驶中的解释：一项综述
人机交互
2021-11-11 v4 人工智能
计算机与社会
机器学习
机器人学
摘要
过去几十年中，汽车工业经历了日益增长的开发水平；从制造手动操作车辆到制造具有高自动化水平的车辆。随着人工智能(AI)的最近发展，汽车公司现在采用黑箱AI模型使车辆能够感知环境并在极少或无人输入下做出驾驶决策。怀着以商业规模部署自动驾驶车辆(AV)的希望，社会对AV的接受变得至关重要，并可能很大程度上取决于其透明度、可信度与合规程度。通过为AV的行为提供解释，可促进对这些接受要求的合规性评估。因此，可解释性被视为AV的一项重要要求。AV应能够解释其在运行环境中‘看到’、做过以及可能要做的事情。本文中，我们提供了围绕可解释自动驾驶的现有工作的全面综述。首先，我们通过强调并强调AV中透明度、问责制与信任的重要性，以及审视与AV相关的现有法规与标准，开启对解释的动机说明。其次，我们识别并归类参与AV开发、使用与监管的各类利益相关者，并引出其对AV的解释需求。第三，我们对先前关于不同AV操作(即感知、定位、规划、控制与系统管理)解释的工作进行了严格回顾。最后，我们识别相关挑战并提供建议，例如一个AV可解释性的概念框架。本综述旨在为对AV可解释性感兴趣的研究者提供所需的基础知识。
引用
@article{arxiv.2103.05154,
title = {Explanations in Autonomous Driving: A Survey},
author = {Daniel Omeiza and Helena Webb and Marina Jirotka and Lars Kunze},
journal= {arXiv preprint arXiv:2103.05154},
year = {2021}
}
备注
Accepted for publication in IEEE Transactions on Intelligent Transportation Systems