基于主观逻辑的方法用于运行时置信度更新的安全论证
人工智能
2026-05-22 v1
摘要
我们提出了一种方法，用于动态定量保证，通过持续、由运行时驱动的置信度更新来增强静态安全案例。该方法通过整合设计时证据和窗口化运行时安全性能指标 (SPI)，在单个基于主观逻辑 (SL) 的保证案例中实现置信度的跨生命周期传递。在运行时，SPI 证据被持续评估，针对性地更新声明，使用一种规则：在无违规情况下增加对声明的置信度，在违规发生时施加快速惩罚。该设计优先考虑与安全相关的响应性，而非精确的经典贝叶斯后验更新。我们使用基于仿真的施工现场辅助功能演示了该方法，重点关注基于机器学习的施工锥检测组件，展示了置信度如何随着 SPI 证据在运行中被观察而演化。
引用
@article{arxiv.2605.22530,
title = {A Subjective Logic-based method for runtime confidence updates in safety arguments},
author = {Benjamin Herd and Jessica Kelly and Clarissa Heinemann and João-Vitor Zacchi},
journal= {arXiv preprint arXiv:2605.22530},
year = {2026}
}
备注
Accepted for publication at the 41st ACM/SIGAPP Symposium on Applied Computing (SAC 2026)