融合机器学习失效于动态概率安全保障
人工智能
2025-06-10 v1
摘要
机器学习（ML）模型日益集成到安全关键系统中，如自动驾驶车队，以实现实时决策。然而，其固有的不完美引入了新的失效类别：常因训练数据与运行数据之间的分布性偏移而触发的推理失效。依赖设计 artefact 或代码的传统安全评估方法不适用于从数据中学习行为的 ML 组件。SafeML recently 提出，用于动态检测此类偏移并为 ML 组件的推理分配置信水平。基于此，我们引入一种概率安全保障框架，将 SafeML 与贝叶斯网络（BN）集成，以将 ML 失效建模为更广泛因果安全分析的一部分。这实现了在不确定性下的动态安全评估和系统自适应。我们在模拟的汽车车队系统中进行演示，系统包含交通标志识别。研究结果突显了在安全评估中显式建模 ML 失效的更广泛潜在收益。
引用
@article{arxiv.2506.06868,
title = {Incorporating Failure of Machine Learning in Dynamic Probabilistic Safety Assurance},
author = {Razieh Arshadizadeh and Mahmoud Asgari and Zeinab Khosravi and Yiannis Papadopoulos and Koorosh Aslansefat},
journal= {arXiv preprint arXiv:2506.06868},
year = {2025}
}