确保机器学习生命周期：需求、方法与挑战
机器学习
2019-05-13 v1 软件工程
机器学习
摘要
机器学习已发展成为一种赋能技术，广泛应用于众多极为成功的领域。其成功持续并加速的潜力使机器学习（ML）位居研究、经济和政治议程之首。这种前所未有的关注源于一种愿景：ML 的适用性将扩展到医疗、交通、国防及其他具有重大社会意义的领域。实现该愿景需要在安全关键应用中使用 ML，这些应用所需的保障水平超出了当前 ML 应用所需。我们的论文对 ML 保障（即生成 ML 对其预期用途足够安全的证据）的现有技术进行了全面综述。该综述涵盖了能够在机器学习生命周期不同阶段提供此类证据的方法，该生命周期是一个复杂的迭代过程，始于为系统训练 ML 组件而收集数据，终于将该组件部署于系统中。本文首先系统阐述 ML 生命周期及其阶段。随后我们为每个阶段定义保障需求（desiderata），回顾有助于实现这些需求的现有方法，并指出需要进一步研究的开放挑战。
引用
@article{arxiv.1905.04223,
title = {Assuring the Machine Learning Lifecycle: Desiderata, Methods, and Challenges},
author = {Rob Ashmore and Radu Calinescu and Colin Paterson},
journal= {arXiv preprint arXiv:1905.04223},
year = {2019}
}