一种用于不公平边优先级排序与歧视消除的因果方法

在旨在缓解不公平且预算受限的场景（如执法）中，在采取现实措施缓解之前，对不公平来源进行优先级排序至关重要。与以往仅作为对可能歧视的警示并在数据生成后去偏的工作不同，本工作在数据生成期间提供了一套由不公平边优先级排序（Unfair Edge Prioritization）算法给出的工具包以缓解不公平，此外还在生成后提供由歧视消除（Discrimination Removal）算法给出的数据去偏。我们假设给定一个代表数据生成过程的非参数马尔可夫因果模型。因果图中源自敏感节点（如种族）的边被假定为不公平来源。我们首先量化任意边 X -> Y 中的边流（Edge Flow），即由于 X 沿 X -> Y 的影响而观测到 Y 特定值的信念。然后我们通过边流构建非参数模型来量化边不公平性（Edge Unfairness）。接着我们证明，当边不公平性不存在时，决策中对敏感群体（如保释决策中的种族）的累积不公平性也不存在。对于累积不公平性无法用边不公平性表达的 nontrivial 非参数模型设定，我们证明了该结果。然后我们度量当边不公平性降低时缓解累积不公平性的潜力（Potential）。基于这些度量，我们提出可供政策制定者使用的公平边优先级排序算法。我们还提出歧视消除过程（Discrimination Removal Procedure），通过消除随敏感属性及其取值数量指数增长的优化约束来对数据分布去偏。大量实验验证了用于量化上述度量的定理与设定。