测试的（不）公平性五十年：对机器学习的启示
人工智能
2018-12-05 v2 机器学习
摘要
对什么是不公平、什么是公平的定量定义已在包括教育、招聘和机器学习在内的多个学科中被引入超过50年。我们追溯了在过去半个世纪中公平概念如何在教育与招聘的测试社群内被定义，探索不同公平性定义出现时的文化与社会背景。在某些情况下，早期的公平性定义与当前机器学习研究中的公平性定义相似或相同，并预示了当前的正式工作。在其他情况下，关于公平含义及其度量方法的洞见在很大程度上被忽视了。我们沿多个维度比较过去与当前的公平概念，包括公平性准则、准则的焦点（例如测试、模型或其使用）、公平与个体、群体和子群体的关系，以及度量公平的数学方法（例如分类、回归）。本工作指明了未来（不）公平研究与度量之路，其建立在我们对公平的现代理解之上，同时吸纳过去的洞见。
引用
@article{arxiv.1811.10104,
title = {50 Years of Test (Un)fairness: Lessons for Machine Learning},
author = {Ben Hutchinson and Margaret Mitchell},
journal= {arXiv preprint arXiv:1811.10104},
year = {2018}
}
备注
FAT* '19: Conference on Fairness, Accountability, and Transparency (FAT* '19), January 29--31, 2019, Atlanta, GA, USA