公平的可能性:在实践中重新审视不可能性定理
机器学习
2023-02-14 v1
摘要
“不可能性定理”——在算法公平文献中被视为基础性结论——断言,在拟合统计模型时,常见公平性概念与性能之间必然存在权衡,除非在两种特殊情况下:被预测结果在各组中的流行率相等,或使用了完全准确的预测器。然而,理论并不总能在实践中成立。在这项工作中,我们挑战不可能性定理在实际场景中的含义。首先,我们通过解析证明,通过对不可能性定理稍作放宽(以适应从业者视角的公平性),便可识别出一大类满足看似不兼容公平性约束的模型。其次,我们通过在五个真实世界数据集上的大量实验证明了这些模型的存在。最后,我们为从业者提供工具与指导,以理解何时、以及在何种程度上可以实现多准则公平。例如,若仅允许指标间存在微小误差边际,则即使各组间存在中等程度的流行率差异,仍存在大量模型可同时满足假阴性率均等、假阳性率均等与阳性预测值均等。这项工作对学界具有重要启示:为多个群体(及其交集)实现多指标公平,远比此前所认为的要可行得多。
引用
@article{arxiv.2302.06347,
title = {The Possibility of Fairness: Revisiting the Impossibility Theorem in Practice},
author = {Andrew Bell and Lucius Bynum and Nazarii Drushchak and Tetiana Herasymova and Lucas Rosenblatt and Julia Stoyanovich},
journal= {arXiv preprint arXiv:2302.06347},
year = {2023}
}
备注
14 pages, 3 figures, 1 table