流水线中的个体公平性
计算机与社会
2020-04-14 v1 机器学习
机器学习
摘要
人们已充分认识到,由个体公平组件构建的系统本身未必是个体公平的。在这项工作中,我们研究流水线组合下的个体公平性。流水线不同于普通的顺序或重复组合,因为个体可能在任何阶段退出,且后续阶段的分类可能依赖于剩余的个体“队列”。例如,一家公司可能为一个新项目雇佣一个团队,并在稍后时刻提拔团队中表现最佳者。与其他重复分类设定不同——其中不公平程度在多个公平步骤下优雅退化——流水线中的不公平程度可以是任意的,即便在仅有两个阶段的流水线中也是如此。受大量真实世界例子的引导,我们提供了一个严谨的框架,用于评估流水线的不同类型公平性保证。我们表明,朴素审计无法揭示系统性不公平,并且为了确保公平,流水线不同阶段的算法设计之间必须存在某种形式的依赖。最后,我们提供了允许后期阶段灵活性的构造,意味着在构建早期阶段时无需锁定整个流水线。
引用
@article{arxiv.2004.05167,
title = {Individual Fairness in Pipelines},
author = {Cynthia Dwork and Christina Ilvento and Meena Jagadeesan},
journal= {arXiv preprint arXiv:2004.05167},
year = {2020}
}