黑盒预测的黑盒公平包装方法
机器学习
2022-11-03 v3 机器学习
摘要
我们引入了一系列新技术，用于对黑盒分类器进行后处理（“包装”）以降低其偏差。我们的技术建立在近期对不当损失函数的分析之上，这类损失函数的优化可纠正预测中的任何扭曲，而不公平性被视为一种扭曲。在后处理中，我们学习一个包装函数，将其定义为 α-树，用以修改预测。我们提供了两种通用的提升算法来学习 α-树。我们表明，我们的修改在 α-树的复合、泛化性、可解释性以及修改后与原预测之间的 KL 散度方面具有良好性质。我们在三种公平性概念中示例了我们的技术：条件风险价值、机会均等和统计 parity；并在多个现成可用的数据集上提供了实验。
引用
@article{arxiv.2201.12947,
title = {Fair Wrapping for Black-box Predictions},
author = {Alexander Soen and Ibrahim Alabdulmohsin and Sanmi Koyejo and Yishay Mansour and Nyalleng Moorosi and Richard Nock and Ke Sun and Lexing Xie},
journal= {arXiv preprint arXiv:2201.12947},
year = {2022}
}
备注
Published in Advances in Neural Information Processing Systems 35 (NeurIPS 2022)