增强 AI 系统自我意识与信任：基于轨迹预测与规划的案例研究
机器人学
2025-04-28 v1
摘要
在自动驾驶的轨迹规划中，数据驱动的统计人工智能 (AI) 方法日益用于预测其他道路使用者的涌现行为。虽然这些方法在定义数据集中取得卓越性能，但通常依赖于独立同分布 (i.i.d.) 假设，因而对实际世界中发生的分布迁移较为脆弱。此外，这些方法因其黑箱本质而缺乏可解释性，这在批准过程和社会可信度方面提出了进一步挑战。因此，为能够可靠可信地运用数据驱动的统计 AI 方法，本文引入并研究了 TrustMHE 概念。TrustMHE 是一种独立于底层 AI 系统的补充方法，将 AI 驱动的异常分布检测与控制驱动的移动域估计 (MHE) 结合起来，不仅实现检测和监控，还实现干预。在三个模拟场景中评估和证明了所提出 TrustMHE 的有效性。
引用
@article{arxiv.2504.18421,
title = {Enhancing System Self-Awareness and Trust of AI: A Case Study in Trajectory Prediction and Planning},
author = {Lars Ullrich and Zurab Mujirishvili and Knut Graichen},
journal= {arXiv preprint arXiv:2504.18421},
year = {2025}
}
备注
Accepted to be published as part of the 2025 IEEE Intelligent Vehicles Symposium (IV), JCluj-Napoca, Romania, June 22-25, 2025