量化算法不公平性的统一方法：通过不平等指数衡量个体与群体不公平性

通过算法决策产生的歧视已受到广泛关注。先前的工作主要侧重于定义公平的条件，但没有定义令人满意的算法不公平性度量。在本文中，我们关注以下问题：给定两个不公平的算法，我们应如何确定哪个更不公平？我们的核心思想是使用经济学中现有的不平等指数来衡量算法的结果如何不平等地惠及群体中的不同个体或群体。我们的工作提供了一个合理且通用的框架来比较和对比算法预测器的（不）公平性。这种统一方法使我们能够在个体和群体层面量化不公平性。此外，我们的工作揭示了不同公平概念之间被忽视的权衡：使用我们提出的度量，算法在整体个体层面的不公平性可以分解为组间和组内分量。早期方法通常仅针对组间不公平性设计，这可能是出于法律或其他原因。然而，我们证明，仅最小化组间分量实际上可能会增加组内不公平性，从而增加整体不公平性。我们刻画并说明了我们的（不）公平性度量与预测准确性之间的权衡。