基于自动驾驶汽车重复事件数据的人工智能系统可靠性分析

人工智能（AI）系统已愈发普遍且此趋势将持续。AI系统的例子包括自动驾驶汽车（AV）、计算机视觉、自然语言处理以及AI医学专家。为实现AI系统安全有效的部署，需对其可靠性进行评估。传统上，可靠性评估基于可靠性试验数据及后续的统计建模与分析。然而，AI系统的可靠性数据可得性有限，因为此类数据通常敏感且专有。加利福尼亚州车辆管理局（DMV）监督并管理一项AV测试计划，众多AV制造商在其中开展道路测试。参与该计划的制造商被要求向加州DMV报告重复脱离事件。该信息正对公众开放。本文中，我们将重复脱离事件作为AV中AI系统可靠性的表征，并提出一个对AV驾驶测试重复事件数据进行建模与分析的统计框架。我们使用软件可靠性中的传统参数模型，并基于单调样条提出一个新的非参数模型来描述事件过程。我们开发了用于模型选择、量化不确定性和检验事件过程异质性的推断流程。随后我们分析了四家AV制造商的重复事件数据，并对AV中AI系统的可靠性做出推断。我们还描述了所提分析如何应用于评估其他AI系统的可靠性。