利用因果风险分析和运行设计域增强运行时安全保证的不确定性量化
软件工程
2025-07-08 v1
摘要
由于深度学习组件的固有不确定性及其对环境变化的敏感性，确保自主系统的运行时安全仍然具有挑战性。在本文中，我们提出了一种对传统不确定性量化的增强方法，通过使用基于风险的原因分析明确纳入环境条件。我们利用危害分析和风险评估（HARA）以及故障树建模来识别影响系统功能的关键运行条件。这些条件，连同来自数据和模型的不确定性，被整合到一个统一的贝叶斯网络（BN）中。在运行时，该BN使用实时环境观测进行实例化，以推断安全估计的概率分布。该分布能够计算预期性能及其相关方差，从而提供一种动态且上下文感知的不确定性度量。我们通过一个自动代客泊车（AVP）中目标检测（OD）组件的案例研究来展示我们的方法。
引用
@article{arxiv.2507.03515,
title = {Enhancing Uncertainty Quantification for Runtime Safety Assurance Using Causal Risk Analysis and Operational Design Domain},
author = {Radouane Bouchekir and Michell Guzman Cancimance},
journal= {arXiv preprint arXiv:2507.03515},
year = {2025}
}