自主系统中机器学习保障指南（AMLAS）
机器学习
2021-02-03 v1 人工智能
摘要
机器学习（ML）现已被用于一系列系统，其结果在某些条件下据称超越了人类表现。其中许多系统位于医疗、汽车和制造等领域，表现出高度自主性且为安全关键系统。建立对 ML 的合理置信构成这些系统安全论证的核心部分。本文档中，我们介绍一种用于自主系统中机器学习保障（AMLAS）的方法论。AMLAS 包含一组安全论证模式以及一个流程，用于（1）将安全保障系统性地整合进 ML 组件的开发，以及（2）生成证据基础以明确论证这些组件集成到自主系统应用时的可接受安全性。
引用
@article{arxiv.2102.01564,
title = {Guidance on the Assurance of Machine Learning in Autonomous Systems (AMLAS)},
author = {Richard Hawkins and Colin Paterson and Chiara Picardi and Yan Jia and Radu Calinescu and Ibrahim Habli},
journal= {arXiv preprint arXiv:2102.01564},
year = {2021}
}