通过敏感属性预测器估计与控制均等几率
机器学习
2023-06-12 v4 计算机与社会
摘要
随着机器学习模型在现实世界高风险决策场景中的使用持续增长，我们能够审计并控制这些模型可能对某些群体表现出的任何潜在公平性违背变得极为重要。为此，人们自然需要获取敏感属性，例如人口统计、性别或其他决定群体归属的潜在敏感特征。遗憾的是，在许多场景中，此类信息往往不可用。在本工作中，我们研究众所周知的公平性定义——均等几率（equalized odds, EOD）。在无敏感属性的设定下，我们首先给出预测器 EOD 违背的可计算紧上界。这些上界精确反映了最坏可能的 EOD 违背。其次，我们展示如何通过一种新的后处理校正方法可证明地控制最坏情况 EOD。我们的结果刻画了在控制最坏情况 EOD 时，直接针对预测敏感属性控制 EOD 何时最优、何时非最优。我们的结果所依据的假设比以往工作更温和，并通过合成与真实数据集上的实验说明了这些结果。
引用
@article{arxiv.2207.12497,
title = {Estimating and Controlling for Equalized Odds via Sensitive Attribute Predictors},
author = {Beepul Bharti and Paul Yi and Jeremias Sulam},
journal= {arXiv preprint arXiv:2207.12497},
year = {2023}
}