面向自主系统的情景套件代表性不确定性感知度量
人工智能
2026-02-17 v2
摘要
确保 AI 系统（如自动驾驶车辆）的可信度与安全性，关键取决于用于其训练和测试的数据相关安全属性，如代表性、完整性等。本文聚焦于代表性——即用于训练和测试的情景数据程度反映系统设计用于安全运行的运营条件（即 Operational Design Domain, ODD）或预期遭遇的条件（即 Target Operational Domain, TOD）的程度。我们提出一种概率方法，通过比较情景套件特征分布与代表 TOD 特征分布的统计分布来量化代表性，鉴于真实 TOD 分布不可知（只能从有限数据中推断）。我们应用不确定性贝叶斯方法处理有限数据和不确定先验。不确定性贝叶斯公式产生的是区间值的、不确定性感知的代表性估计，而非单个数值。我们呈现一个数值示例，对比情景套件与推断 TOD 在操作类别（如天气、道路类型、时间段等）下的分布，在依赖性和先验不确定性下进行估计。我们对代表性在局部（类别间）和全局范围内估计为区间。
引用
@article{arxiv.2511.14853,
title = {Uncertainty-Aware Measurement of Scenario Suite Representativeness for Autonomous Systems},
author = {Robab Aghazadeh Chakherlou and Siddartha Khastgir and Xingyu Zhao and Jerein Jeyachandran and Shufeng Chen},
journal= {arXiv preprint arXiv:2511.14853},
year = {2026}
}