学习使能系统中保证性的量化
软件工程
2023-01-11 v1 人工智能
机器学习
系统与控制
系统与控制
摘要
嵌入机器学习(ML)组件的系统——即所谓的学习使能系统(LESs)——其可依赖性保证是将其应用于安全关键领域的关键步骤。在新兴的标准化与指南工作中，人们越来越认同使用保证案例来实现这一目的。本文发展了一种关于LES可依赖的保证性的定量概念，作为其保证案例的核心组成部分，同时也扩展了我们先前应用于ML组件的工作。具体而言，我们以保证测度的形式刻画LES保证性：这是一种对LES具备与功能能力和可依赖性属性相关的系统级属性的置信度的概率量化。我们通过将保证测度应用于真实的自主航空系统来说明其效用，并描述了它们在以下两方面的作用：i) 指导高层、运行时的风险缓解决策；ii) 作为相关动态保证案例的核心组成部分。
引用
@article{arxiv.2006.10345,
title = {Quantifying Assurance in Learning-enabled Systems},
author = {Erfan Asaadi and Ewen Denney and Ganesh Pai},
journal= {arXiv preprint arXiv:2006.10345},
year = {2023}
}
备注
Author's pre-print version of manuscript accepted for publication in the Proceedings of the 39th International Conference in Computer Safety, Reliability, and Security (SAFECOMP 2020)