论机器辅助人类决策的公平性
计算机与社会
2023-09-26 v2 人机交互
机器学习
综合经济学
经济学
机器学习
摘要
当机器学习算法被用于高风险决策时，我们希望确保其部署带来公平且平等的后果。这一关切催生了快速增长的文献，聚焦于诊断并解决机器预测中的差异。然而，许多机器预测被部署以辅助由人类决策者保留最终决策权的决策。因此，本文在形式化模型与实验室实验中考虑机器预测的性质如何影响所产生的人类决策。在我们的统计决策形式化模型中，我们表明纳入有偏见的人类决策者可能逆转算法结构与所得决策质量之间的常见关系。具体而言，我们记录到从预测中排除受保护群体的信息可能未能减少、甚至可能增加最终的差异。在实验室实验中，我们展示由性别特定信息告知的预测如何减少决策中的平均性别差异。尽管我们具体的理论结果依赖于关于数据、算法和决策者的特定假设，且实验聚焦于特定预测任务，我们的发现更广泛地表明，对任何复杂决策系统关键性质（如机器辅助人类决策的公平性）的研究，都应超越孤立地关注底层算法预测。
引用
@article{arxiv.2110.15310,
title = {On the Fairness of Machine-Assisted Human Decisions},
author = {Talia Gillis and Bryce McLaughlin and Jann Spiess},
journal= {arXiv preprint arXiv:2110.15310},
year = {2023}
}