对应方公平性——解决公平性评估中系统性的组间差异

在使用机器学习辅助决策时，确保算法决策公平且不对特定个体/群体（尤其是来自弱势群体的个体/群体）产生歧视至关重要。现有的群体公平方法旨在确保由种族或性别等受保护变量划分的群体之间结果平等（如贷款批准率）。然而，在群体间系统性差异对结果有显著影响的情况下，这些方法可能忽略跨群体系统性变化的非受保护变量的影响。这些混杂因素会影响公平性评估，使得难以判断差异是由歧视还是固有差异导致。因此，我们建议采用一种更精细、更全面的公平性指标，同时考虑群体内系统性差异以及多方面、交织的混杂效应。所提出的指标在对应方（就感兴趣的任务而言相似但来自不同群体的个体对）上评估公平性，其群体身份无法通过探索混杂因素以算法方式区分。为识别对应方，我们受倾向得分和度量学习的启发，开发了一种两步匹配方法。此外，我们引入了一种基于对应方的统计公平性指标，称为对应方公平性（Counterpart Fairness, CFair），用于评估机器学习模型的公平性。在MIMIC和COMPAS数据集上的实证结果表明，标准基于群体的公平性指标可能无法充分反映预测中存在的不公平程度，这一点通过CFair得以揭示。