通过基于社区的系统动力学实现更公平机器学习的参与式问题构建
计算机与社会
2020-05-25 v3 机器学习
机器学习
摘要
近期关于算法公平性的研究强调，机器学习系统开发的问题构建阶段可能是偏差的关键来源，对机器学习系统公平性结果具有显著的下游影响。然而，极少有研究关注改进这一关键开发阶段公平性效能的方法。当前实践既未考虑高风险领域的动态复杂性，也未纳入弱势利益相关者的视角。在本文中，我们引入基于社区的系统动力学（CBSD）作为一种方法，使通常被排除在外的利益相关者能够参与机器学习系统开发过程的问题构建阶段，并促进在此关键阶段减轻偏差所需的深度问题理解。
引用
@article{arxiv.2005.07572,
title = {Participatory Problem Formulation for Fairer Machine Learning Through Community Based System Dynamics},
author = {Donald Martin and Vinodkumar Prabhakaran and Jill Kuhlberg and Andrew Smart and William S. Isaac},
journal= {arXiv preprint arXiv:2005.07572},
year = {2020}
}
备注
Eighth Annual Conference on Learning Representations (ICLR 2020), Virtual Workshop: Machine Learning in Real Life, April 26, 2020, 6 pages, 1 figure, fix comment typo, fix author name