量化次边际性及其与群体公平性的权衡

在关键决策场景中，优化准确率可能导致有偏的分类器，因此以往工作建议在最大化准确率之外还强制实施基于群体的公平性度量。然而，这样做会使分类器暴露于另一种称为次边际性(infra-marginality)的偏差。这指的是个体层面的偏差，其中一些个体/子群体可能比仅优化准确率时处境更糟。例如，实施基于种族的均等的分类器可能显著不利于优势种族中的女性。为量化此偏差，我们提出了 $\eta$-次边际性 的一般概念，可用于评估该偏差的程度。我们从理论上证明，与其他公平性度量不同，次边际性与准确率不存在权衡：高准确率直接导致低次边际性。这一观察通过对多个模拟和真实世界数据集的实证分析得到证实。进一步，我们发现最大化群体公平性往往增加次边际性，这表明应同时考虑群体层面的公平性与个体层面的次边际性。然而，测量次边际性需要正确且明确地知道个体层面结果的真实分布。我们提出了一种测量次边际性的实用方法，以及一种最大化群体准确率并避免次边际性的简单算法。