中文

无拉平式公平:一种新的交叉公平性定义

机器学习 2023-11-09 v2 计算与语言 计算机与社会

摘要

在本工作中,我们考虑分类设定下的交叉群体公平问题,其目标是在存在多个相交敏感群体的情况下学习无歧视模型。首先,我们阐明了现有常用于刻画交叉公平性的公平性度量存在的各种缺陷。随后,我们提出一种称为 α\alpha-交叉公平性(α\alpha-Intersectional Fairness)的新定义,它结合了敏感群体间的绝对与相对表现,可视为差分公平性概念的一种推广。我们强调了所提定义的若干可取性质,并分析了它与其他公平性度量的关系。最后,我们使用新公平性定义对多种流行的处理中公平机器学习方法进行了基准测试,表明它们相较简单基线并未取得任何改进。我们的结果显示,以往定义所度量的公平性提升掩盖了一种“拉平式”(leveling down)效应,即降低群体间最佳表现而非改善最差表现。

关键词

引用

@article{arxiv.2305.12495,
  title  = {Fair Without Leveling Down: A New Intersectional Fairness Definition},
  author = {Gaurav Maheshwari and Aurélien Bellet and Pascal Denis and Mikaela Keller},
  journal= {arXiv preprint arXiv:2305.12495},
  year   = {2023}
}

备注

The paper has been accepted at: The 2023 Conference on Empirical Methods in Natural Language Processing