注意差距：预测与决策中偏见放大的因果视角

调查自动化系统的公平性和公正性已成为一个关键的研究领域。公平机器学习的大多数文献集中在预测背景下定义和实现公平性标准，而没有明确关注这些预测如何在后续流程中使用。例如，如果常用的标准（如独立性或充分性）对于用于二分类的预测分数S成立，那么在对S应用简单的阈值操作后（如实践中常用的），它们不一定成立。在本文中，我们在众多统计和因果公平性概念中迈出了重要一步来解决这个问题。我们引入了边际补集的概念，它衡量了由于阈值操作导致预测分数S的变化量。然后我们证明，组间最优0/1预测器Ŷ的边际差异，即P(ŷ|x₁) - P(ŷ|x₀)，可以因果分解为X对L₂最优预测分数S的影响和X对边际补集M的影响，沿着不同的因果路径（直接、间接、虚假）。然后我们证明，在适当的因果假设下，X对预测分数S的影响等于X对真实结果Y的影响。这产生了预测器Ŷ中差异的新分解，使我们能够区分继承自真实世界存在的真实结果Y的因果差异与来自优化过程本身的因果差异。这一观察强调了由于偏见放大的可能性而需要更多监管监督，为了解决这个问题，我们引入了弱和强业务必要性的新概念，以及评估这些概念是否满足的算法。