自动化决策中的分配正义与公平性度量：二者有多少重叠？
机器学习
2021-05-07 v2 机器学习
摘要
强大预测算法的出现导致涉及稀缺资源（如政府支出与福利支持）分配的高风险决策自动化程度提高。这种自动化带有延续对弱势及历史上被剥夺权利群体的不必要歧视的风险。计算机科学及其他学科中关于算法歧视的研究已发展出大量公平性度量以检测并纠正歧视性算法。借鉴关于分配正义的稳健社会学与哲学论述，我们指出了著名公平性度量的局限性与问题含义。我们表明，实现机会平等的度量仅在资源分配基于应得性时适用，而在分配应反映平等主义、充足性与优先性关切时失效。我们认为，通过清晰区分预测任务与决策任务，公平机器学习的研究可更好地利用关于分配正义的丰富文献。
引用
@article{arxiv.2105.01441,
title = {Distributive Justice and Fairness Metrics in Automated Decision-making: How Much Overlap Is There?},
author = {Matthias Kuppler and Christoph Kern and Ruben L. Bach and Frauke Kreuter},
journal= {arXiv preprint arXiv:2105.01441},
year = {2021}
}