在保证案例中集成测试与运行相关量化证据以论证数据驱动 AI/ML 组件的安全性

未来，AI 将越来越多地进入可能对人体造成物理伤害的系统。对于此类安全关键系统，必须证明其残余风险不超过可接受的水平。这尤其包括作为此类系统安全相关功能一部分的 AI 组件。保证案例是当今被广泛讨论的一种选择，用于制定一个健全且全面的安全论证，以证明系统的安全性。在先前的工作中，已建议通过基于两个互补的风险接受准则来构建保证案例，以论证 AI 组件的安全性。其中一个准则用于推导关于 AI 的量化目标。然而，通常提出的用于展示达成此类量化目标的论证结构，主要关注统计测试的故障率。其他重要方面仅以定性方式考虑——如果有所考虑的话。相比之下，本文提出了一种更全面的论证结构，用于证明已达成目标，即一种以量化方式将测试结果与运行时方面以及范围合规性和测试数据质量的影响相结合的结构。我们阐述了不同的论证选项，给出了底层的数学考量，并讨论了对其实际应用的影响。使用所提出的论证结构，不仅可以提高保证案例的完整性，还可能允许对量化目标提出在其他情况下无法证明的主张。