论统计均等的道德证成
计算机与社会
2022-03-16 v2 机器学习
摘要
算法公平中一个关键但常被忽视的方面是:我们如何从道德视角证成强制施行某一公平性度量。当提出公平性度量时,通常的论证方式是强调其数学性质,而极少解释该度量之下的道德预设。本文旨在考察与独立性(统计均等)这一统计公平性准则相关的道德维度。为此,我们考量了先前讨论“所见即所得”(WYSIWYG)与“众生平等”(WAE)两种世界观的工作,并借此为厘清算法设计中可能的预设提供指引。我们给出了以道德为核心的该工作的扩展:最自然的道德扩展是,当且仅当社会人口群体间预测特征(例如高中成绩与标准化考试分数可预测大学表现)的差异由不公正的社会不平等或测量误差所导致时,才须满足独立性。通过两个反例,我们表明该扩展并非普遍成立。这意味着,是否应使用独立性无法仅通过考察预测特征差异的公正性来令人满意地回答。
引用
@article{arxiv.2011.02079,
title = {On the Moral Justification of Statistical Parity},
author = {Corinna Hertweck and Christoph Heitz and Michele Loi},
journal= {arXiv preprint arXiv:2011.02079},
year = {2022}
}
备注
11 pages, accepted to ACM FAccT 2021