均等化机会不等于个体均等机会:面向群体与个体公平的后处理
机器学习
2024-04-22 v3 计算机与社会
最优化与控制
概率论
摘要
群体公平通过均衡受保护子群体间的预测分布来实现;个体公平则要求对相似个体一视同仁。然而,当评分模型通过不连续概率函数进行校准时,这两个目标是不相容的,此时个体可能被以固定概率随机分配结果。这一过程可能使来自同一受保护群体的两个相似个体获得差异悬殊的分类机会——这明显违背了个体公平。为每个受保护子群体分配唯一机会也可能阻止某一子群体成员获得与另一子群体相等的积极结果机会,我们认为这是另一种称为个体机会不均的不公平类型。我们通过在其Lipschitz常数约束下于群体阈值间构造连续概率函数,调和了上述所有问题。我们的解在确保群体公平的同时,保持了模型的预测能力、个体公平性与鲁棒性。
引用
@article{arxiv.2304.09779,
title = {Equalised Odds is not Equal Individual Odds: Post-processing for Group and Individual Fairness},
author = {Edward A. Small and Kacper Sokol and Daniel Manning and Flora D. Salim and Jeffrey Chan},
journal= {arXiv preprint arXiv:2304.09779},
year = {2024}
}
备注
25 pages, 9 figures, 4 tables