数学公平概念 vs. 人类公平感知:一种面向机器学习的描述性公平观
计算机与社会
2019-12-10 v4
摘要
近来,机器学习的公平性受到了相当多的关注。人们提出了多种公平性的数学表述,并已证明不可能同时满足所有这些表述。迄今为止的文献通过量化不同公平性表述之间的权衡来应对这些不可能结果。我们的工作对此问题采取了不同的视角。我们不要求所有公平性概念同时(部分)成立,而是询问在待部署决策模型的特定社会领域中,哪一个最为合适。我们采取描述性方法,旨在识别最能捕捉\emph{外行人士公平感知}的公平性概念。我们运行自适应实验,通过少量测试来精确定位与每位参与者选择最相容的公平性概念。或许令人惊讶的是,我们发现最简单的公平性数学定义——即人口均等等——在两种不同的应用场景中都与人们的公平观念最为接近。即便我们向参与者明确说明替代的、更复杂的公平性定义,并降低他们评估这些概念的认知负担,这一结论依然成立。我们的发现对公平机器学习文献以及算法公平形式化的讨论具有重要意义。
引用
@article{arxiv.1902.04783,
title = {Mathematical Notions vs. Human Perception of Fairness: A Descriptive Approach to Fairness for Machine Learning},
author = {Megha Srivastava and Hoda Heidari and Andreas Krause},
journal= {arXiv preprint arXiv:1902.04783},
year = {2019}
}