事后偏差评分对于公平分类是最优的
机器学习
2024-03-18 v3 机器学习
摘要
我们考虑在群体公平约束下的二分类问题，约束可以是人口均等等（DP）、机会均等（EOp）或几率均等（EO）之一。我们给出了公平约束下贝叶斯最优分类器的显式刻画，其结果为对非约束分类器的一种简单修正规则。具体而言，我们引入一种新颖的实例级偏差度量，称之为偏差评分（bias score），而该修正规则是在有限数量偏差评分之上的一个简单线性规则。基于此刻画，我们开发了一种事后（post-hoc）方法，使我们能够在保持高准确率的同时适应公平约束。在 DP 与 EOp 约束情形下，修正规则是对单一偏差评分进行阈值化；而在 EO 约束情形下，我们需要拟合一个含 2 个参数的线性修正规则。该方法亦可应用于复合群体公平准则，例如涉及多个敏感属性的情形。
引用
@article{arxiv.2310.05725,
title = {Post-hoc Bias Scoring Is Optimal For Fair Classification},
author = {Wenlong Chen and Yegor Klochkov and Yang Liu},
journal= {arXiv preprint arXiv:2310.05725},
year = {2024}
}
备注
Published at The Twelfth International Conference on Learning Representations (ICLR 2024)