超越差别对待与差别影响的公平性：无差别误判的学习分类

自动化数据驱动的决策系统正越来越多地用于辅助甚至取代人类在许多场景中的决策。这些系统通过从历史决策（通常由人类做出）中学习来运作。为了最大化这些系统（或分类器）的效用，其训练涉及最小化给定历史数据上的错误（或误分类）。然而，最优训练的分类器极有可能对属于不同社会群体的个体做出具有不同误分类率的决策（例如，女性的误分类率高于男性），从而使这些群体处于不公平的不利地位。为了考虑并避免此类不公平，本文引入了一种新的不公平概念——差别误判（disparate mistreatment），其根据误分类率定义。然后，我们针对基于决策边界的分类器提出了直观的差别误判度量，可轻松作为其公式中的凸凹约束纳入。在合成及真实世界数据集上的实验表明，我们的方法能有效地避免差别误判，且通常在准确率方面付出较小代价。