一种用于机器学习安全保证的因果模型
软件工程
2022-08-10 v3 机器学习
机器人学
摘要
本文提出一种基于安全因果模型的框架，可据此构建面向机器学习（ML）应用的有效安全保证案例。为此，我们建立在成熟的安全工程原则以及先前关于ML保证论证结构化工作之上。本文定义了四类安全案例证据及一种结构化分析方法，在这些方法中这些证据可被有效组合。在适当之处，采用对这些贡献的抽象形式化来阐明其所评估的因果关系、对安全论证的贡献以及证据应具备的理想性质。基于所提框架，重新评估了该领域的进展，并提出一组未来研究方向，以推动该领域取得切实进展。
引用
@article{arxiv.2201.05451,
title = {A causal model of safety assurance for machine learning},
author = {Simon Burton},
journal= {arXiv preprint arXiv:2201.05451},
year = {2022}
}