公平机器学习的不公平性：默认的向下拉平与严格平等主义

近年来，机器学习（ML）中的公平性已成为一个高度活跃的研究与开发领域。大多数人用简单的术语定义公平性，即公平意味着在保持原始系统尽可能多的准确性的同时，减少人口群体之间在性能或结果上的差距。这种通过公平性度量来过度简化平等的做法令人不安。当前的许多公平性度量都遭受公平性和性能的双重退化，或称为“向下拉平”，即通过使每个群体都变得更糟，或通过将表现较好的群体拉低到表现最差群体的水平来实现公平。当公平只能通过污名化伤害、丧失团结、不平等的关切以及错失实质性平等的机会，使每个人在物质或关系上都变得更糟时，将‘公平’这一模糊概念转化为实践的过程似乎出了问题。本文考察了公平机器学习中向下拉平的原因和普遍性，并基于平等与分配正义的哲学和法学理论以及平等法判例，探讨了可能的辩护与批评。我们发现，公平机器学习目前并未进行在实践中证明向下拉平合理性所必需的那种测量、报告或分析。我们提出了迈向公平机器学习中实质性平等的第一步：通过强制实施最低可接受伤害阈值或“最低比率约束”作为公平约束，从设计上实现“向上提升”系统。我们同样提出了一个替代性的基于伤害的框架，以对抗目前该领域占主导地位的过度简化的平等主义框架，并推动未来的讨论更多地朝向实质性平等机会，远离默认的严格平等主义。注意：摘要已缩短，完整摘要请参见论文。