通过运行测试评估安全关键系统：以自动驾驶车辆为例的研究

背景：对安全关键系统（SCSs）展示高可靠性和安全性仍是一个难题。需要将多样化证据以严格方式结合：特别是运行测试的结果与设计及验证的其他证据。机器学习在SCSs中日益增长的使用，由于排除了大多数既有的获取保证的方法，使得运行测试对支持安全性与可靠性声明更为重要。目标：我们以自动驾驶车辆（AVs）作为当前实例重新审视展示高可靠性的问题。AVs正首次出现在公共道路上：评估一辆AV是否足够安全的方法亟需建立。我们展示如何回答评估AV类型时会出现的5个问题，从一项高被引研究提出的问题开始。方法：我们应用扩展保守贝叶斯推断（CBI）的新定理，其利用贝叶斯方法的严谨性同时降低与当前常见贝叶斯推断应用相关的非自愿误用风险；我们定义将这些方法应用于AVs所需的附加条件。结果：若AV设计在道路测试前允许对安全性有强烈预期，先验知识可带来显著优势。我们也展示朴素的保守评估尝试反而可能导致过度乐观；为何外推脱离接管（disengagements）的趋势不适合安全性声明；利用AV已转移至压力较小环境的知识。结论：尽管某些可靠性目标仍过高而难以实际验证，CBI消除了一个主要疑虑来源：其允许使用先验知识而不引入危险的乐观偏差。对于特定范围的所需可靠性与先验信念，CBI由此支持可行且可靠的论证。有用的保守声明可从有限的先验知识导出。