公平性不确定性量化：你有多大把握模型是公平的？
机器学习
2023-04-28 v1 计算机与社会
机器学习
摘要
由于机器学习在司法系统等敏感应用中的广泛使用，公平性感知机器学习近年来引起了极大关注。已有各种启发式方法和优化框架被提出以在分类中实现公平性 \cite{del2020review}，其中后者要么提供经验结果，要么为目标函数的精确极小值点提供公平性保证 \cite{celis2019classification}。在现代机器学习中，随机梯度下降（SGD）类算法几乎总被用作训练算法，这意味着学习到的模型及其公平性属性是随机的。因此，特别是对于关键应用，为学习到的模型的公平性构建置信区间（CI）是势在必行的。在本工作中，当使用在线 SGD 类算法训练具有群体公平性感知（具体为 Disparate Impact (DI) 和 Disparate Mistreatment (DM) 感知）的线性二分类器时，我们提供了测试不公平性的 CI。我们证明了对于 DI 和 DM 感知模型的估计模型参数，渐近地成立中心极限定理。我们提供了在线乘子自助法来估计渐近协方差以构建在线 CI。为此，我们将关于无约束 SGD 在线自助法一致性的已知理论保证扩展至约束优化，这具有独立的意义。我们在合成数据集和真实数据集上展示了我们的结果。
引用
@article{arxiv.2304.13950,
title = {Fairness Uncertainty Quantification: How certain are you that the model is fair?},
author = {Abhishek Roy and Prasant Mohapatra},
journal= {arXiv preprint arXiv:2304.13950},
year = {2023}
}