特征豁免下的公平性：反事实与观测度量

随着机器学习在后果重大领域的使用日益增多，量化与受保护属性（例如性别、种族等）相关的差异变得非常重要。虽然量化差异至关重要，但有时职业需求可能要求使用某些关键特征，以至于任何可由这些特征解释的差异可能需要被豁免。例如，在为安全关键应用招聘软件工程师时，编程技能可能被赋予很高权重，而姓名、邮政编码或推荐信可能仅在它们不增加差异的范围内使用。在这项工作中，我们提出了一种基于信息论的总差异分解方法（一种受反事实公平性启发的量化方法），将其分解为两个部分：一个非豁免部分，用于量化无法由关键特征解释的部分；以及一个豁免部分，用于量化剩余的差异。这种分解允许人们检查差异是否纯粹由关键特征引起（受差异影响法中商业必要性抗辩的启发），并且如果需要，还可以选择性地移除非豁免部分。我们通过一些典型例子得出这种分解，这些例子引出了一组非豁免差异度量应满足的期望属性（公理）。我们提出的度量满足所有这些属性。我们的量化方法连接了因果性、辛普森悖论以及信息论中称为部分信息分解的一系列工作。我们还获得了一个不可能性结果，表明没有任何观测度量能够满足所有期望属性，这促使我们放宽目标并考察仅满足其中部分属性的观测度量。我们进行了案例研究，以展示如何在减少非豁免差异的同时审计/训练模型。