理解机器学习生命周期中危害来源的框架
机器学习
2021-12-03 v5 机器学习
摘要
随着机器学习(ML)对人和社会的影響日益加深,人们对其潜在不良后果的认识也在增强。为了预见、防止和缓解不良的下游后果,关键在于理解在机器学习生命周期中危害可能在何时以及如何被引入。在本文中,我们提供了一个框架,识别了机器学习中七个不同的潜在下游危害来源,涵盖数据收集、开发和部署。在此过程中,我们旨在促进围绕这些问题的更具成效和精确的交流,以及更直接、基于应用的方式来缓解它们。
引用
@article{arxiv.1901.10002,
title = {A Framework for Understanding Sources of Harm throughout the Machine Learning Life Cycle},
author = {Harini Suresh and John V. Guttag},
journal= {arXiv preprint arXiv:1901.10002},
year = {2021}
}