面向安全可信自动驾驶的可解释人工智能：系统综述
机器人学
2024-11-12 v2 人工智能
计算机视觉与模式识别
人机交互
机器学习
摘要
人工智能（AI）在自动驾驶（AD）的感知和规划任务中显示出有前景的应用，因为其性能优于传统方法。然而，难以解释的AI系统加剧了AD安全保证的现有挑战。缓解这一挑战的一种方法是利用可解释AI（XAI）技术。为此，我们提出了第一个关于安全可信自动驾驶的可解释方法的全面系统性文献综述。我们首先分析AI在AD背景下的需求，重点关注三个关键方面：数据、模型和代理。我们发现XAI是满足这些需求的基础。基于此，我们解释了AI中解释的来源，并描述了XAI的分类法。然后，我们确定了XAI在AD中实现安全可信AI的五个关键贡献，即可解释设计、可解释代理模型、可解释监控、辅助解释和可解释验证。最后，我们提出了一个名为SafeX的模块化框架来整合这些贡献，使得能够向用户提供解释，同时确保AI模型的安全性。
引用
@article{arxiv.2402.10086,
title = {Explainable AI for Safe and Trustworthy Autonomous Driving: A Systematic Review},
author = {Anton Kuznietsov and Balint Gyevnar and Cheng Wang and Steven Peters and Stefano V. Albrecht},
journal= {arXiv preprint arXiv:2402.10086},
year = {2024}
}