敏感属性存在不确定性时的群体公平性
机器学习
2023-06-08 v2
摘要
学习公平的预测模型对于缓解高风险应用中针对少数群体的偏见决策至关重要。学习此类模型的常用方法涉及求解一个优化问题，在适当的群体公平性约束下最大化模型的预测能力。然而在实践中，敏感属性常常缺失或含噪声，导致不确定性。我们证明，仅对不确定的敏感属性施加公平性约束，远不足以达到无不确定性下训练的模型所实现的公平水平。为克服这一局限，我们提出了一种基于 bootstrap 的算法，尽管敏感属性存在不确定性，仍能实现目标公平水平。该算法由针对公平性独立性概念的 Gaussian 分析引导，其中我们提出一个鲁棒的二次约束二次规划问题，以在敏感属性不确定时确保严格的公平性保证。我们的算法适用于离散和连续敏感属性，并在真实世界的分类与回归任务中针对多种群体公平性概念（如独立性与分离性）均有效。
引用
@article{arxiv.2302.08077,
title = {Group Fairness with Uncertainty in Sensitive Attributes},
author = {Abhin Shah and Maohao Shen and Jongha Jon Ryu and Subhro Das and Prasanna Sattigeri and Yuheng Bu and Gregory W. Wornell},
journal= {arXiv preprint arXiv:2302.08077},
year = {2023}
}