FACT：一种用于群体公平性权衡诊断的工具
机器学习
2020-07-08 v3 计算机与社会
机器学习
摘要
群体公平性是一类公平性概念，衡量不同个体群体因其受保护属性而受到的不同对待，已被证明彼此间存在冲突，且常以模型预测性能下降为必要代价。我们提出一种通用诊断方法，能够系统性刻画群体公平性中的这些权衡。我们观察到大多数群体公平性概念可通过公平性-混淆张量表达，即依据受保护属性值拆分的混淆矩阵。我们构建了若干优化问题，直接在该张量元素上同时优化准确率和公平性目标，从而给出理解包括群体公平性不相容在内的多种权衡的通用视角。它还暗示了一种用于设计公平分类器的替代后处理方法。在合成与真实数据集上，我们展示了该诊断的应用场景，特别是在理解准确率与公平性之间权衡格局方面。
引用
@article{arxiv.2004.03424,
title = {FACT: A Diagnostic for Group Fairness Trade-offs},
author = {Joon Sik Kim and Jiahao Chen and Ameet Talwalkar},
journal= {arXiv preprint arXiv:2004.03424},
year = {2020}
}
备注
Accepted to International Conference on Machine Learning (ICML 2020)