先验概率偏移下的公平性保障

在本文中，我们研究存在先验概率偏移（训练集分布不同于测试集）时的公平分类问题。该现象可在若干真实世界数据集的年度记录中观察到，例如累犯记录与医疗支出调查。若不加考量，此类偏移会导致分类器的预测对特定群体子组变得不公平。虽称为比例平等(Proportional Equality, PE)的公平性概念可解释此类偏移，但确保 PE 公平性的过程尚属未知。在本工作中，我们提出一种称为 CAPE 的方法，其对上述问题提供全面解决方案。CAPE 新颖地利用患病率(prevalence)估计技术、采样与分类器集成，以在先验概率偏移下确保公平预测。我们引入一种称为患病率差(prevalence difference, PD)的度量，CAPE 试图最小化该度量以确保 PE 公平性。我们从理论上确立该度量展现若干理想性质。我们通过合成数据集上的详尽实证评估评价 CAPE 的效力。我们还将 CAPE 与若干流行公平分类器在如 COMPAS（犯罪风险评估）与 MEPS（医疗支出面板调查）等真实世界数据集上比较性能。结果表明 CAPE 确保了 PE 公平预测，同时在其他性能指标上表现良好。