解释自动驾驶中的不可靠感知：一种基于模糊逻辑的监控方法
机器学习
2025-05-21 v1
摘要
依赖机器学习（ML）的自主系统利用在线容错机制（如运行时监控器）来检测 ML 预测错误并在运行过程中维持安全性。然而，缺乏对这些错误的人类可解释性解释，可能会阻碍对系统安全性和可靠性建立强有力的保证。本文提出了一种专为 ML 感知组件定制的基于模糊逻辑的新型监控器。它提供了关于不同运行条件如何影响感知组件可靠性的人类可解释性解释，同时也可作为运行时安全监控器。作为自动驾驶案例研究的一部分，我们使用自然驾驶数据集评估了所提出的监控器。我们评估了监控器的可解释性，并识别出一组感知组件能够可靠运行的运行条件。此外，我们创建了一个保证案例，将 ML 正确运行单元级的证据与系统级的安全性联系起来。基准测试表明，在所评估的数据集中，与最先进的运行时 ML 监控器相比，我们的监控器在保持可用性（即执行任务的能力）的同时，实现了更好的安全性提升（即避免危险情况）。
引用
@article{arxiv.2505.14407,
title = {Explaining Unreliable Perception in Automated Driving: A Fuzzy-based Monitoring Approach},
author = {Aniket Salvi and Gereon Weiss and Mario Trapp},
journal= {arXiv preprint arXiv:2505.14407},
year = {2025}
}