在不同世界观下避免差异放大
机器学习
2021-03-10 v7 计算机与社会
机器学习
摘要
我们从数学上比较了四种相互竞争的人群层面非歧视定义:人口均等、均等几率、预测均等与校准。利用 Friedler 等人的理论框架,我们研究了各定义在不同世界观下的性质,这些世界观是关于观测数据是否存在偏倚的假设。我们论证不同的世界观需要不同的公平性定义,并指明了当与避免一种我们称为差异放大的歧视准则的诉求相结合时,哪些世界观会导出人口均等与均等几率。我们还论证预测均等和校准不足以避免差异放大,因为预测均等允许任意大的组间差异,而校准对后处理不具鲁棒性。最后,我们定义了一种比先前考虑的世界观更现实的世界观,并引入了对应于该世界观的公平性新概念。
引用
@article{arxiv.1808.08619,
title = {Avoiding Disparity Amplification under Different Worldviews},
author = {Samuel Yeom and Michael Carl Tschantz},
journal= {arXiv preprint arXiv:1808.08619},
year = {2021}
}
备注
This is a draft version. For the published version, please go to https://dl.acm.org/doi/10.1145/3442188.3445892