面向一致性公平分类的优化分数变换
机器学习
2021-11-02 v3 信息论
math.IT
机器学习
摘要
本文研究公平的 probabilistic 二分类问题，其中主要关注的输出是预测概率，通常称为分数。我们形式化了将分数进行变换以满足在分数条件均值上线性成立的公平性约束、同时最小化交叉熵目标的问题。该形式化可直接用于后处理分类器输出，我们也探讨了预处理扩展，从而在选择分类算法时具有最大自由度。我们推导了最优变换分数的闭式表达式以及变换参数的凸优化问题。在总体极限下，变换后的分数函数是相对于结果真实条件概率的交叉熵的公平性约束最小化器。在有限样本设定下，我们提出一种称为 FairScoreTransformer 的方法，结合标准概率分类器与 ADMM 来逼近该解。我们为 FairScoreTransformer 提供了若干一致性与有限样本保证，涉及其所获得的变换参数与变换分数函数。与 10 种现有方法的综合实验表明，FairScoreTransformer 在基于分数的指标（如 Brier 分数与 AUC）上具有优势，同时在基于二值标签的指标（如准确率）上保持竞争力。
引用
@article{arxiv.1906.00066,
title = {Optimized Score Transformation for Consistent Fair Classification},
author = {Dennis Wei and Karthikeyan Natesan Ramamurthy and Flavio du Pin Calmon},
journal= {arXiv preprint arXiv:1906.00066},
year = {2021}
}
备注
78 pages, 16 figures. Published in Journal of Machine Learning Research. Earlier version published at the 2020 International Conference on Artificial Intelligence and Statistics (AISTATS)