迈向安全、可解释且合规的自动驾驶
人工智能
2023-05-29 v4
摘要
近年来，受强大人工智能技术（AI）尤其是深度学习和强化学习应用方面经验性成功的推动，人们对自动驾驶车辆的开发与部署兴趣日增。然而，正如近期交通事故所表明的，自动驾驶技术尚不足以安全可靠地部署。由于AI是自动驾驶车辆智能导航系统的核心技术，利益相关方与交通监管机构均要求其AI驱动的软件架构具备安全性、可解释性并符合监管规定。本文提出一种集成自动驾驶控制、可解释AI（XAI）与监管合规的设计框架以应对该问题，并通过案例研究中的批判性分析对框架进行初步验证。此外，我们描述了有助于实现该框架目标的相关XAI方法。
引用
@article{arxiv.2111.10518,
title = {Towards Safe, Explainable, and Regulated Autonomous Driving},
author = {Shahin Atakishiyev and Mohammad Salameh and Hengshuai Yao and Randy Goebel},
journal= {arXiv preprint arXiv:2111.10518},
year = {2023}
}
备注
Accepted for publication in the Explainable AI for Intelligent Transportation Systems book