公平回归中的覆盖机会均等
机器学习
2023-11-07 v1
摘要
我们研究预测不确定性下的公平机器学习（ML），以实现可靠且可信的决策。开创性的“均等覆盖”工作提出了一种不确定性感知的公平概念。然而，它无法保证在给定真实标签条件下更细粒度群体（如低收入女性）间的均等覆盖率，且在不确定性评估中存在偏差。为应对这些局限，我们提出一种新的不确定性感知公平——覆盖机会均等（EOC）——旨在实现两性质：(1) 结果相似的不同群体覆盖率接近；(2) 全体人口的覆盖率维持在预定水平。此外，预测区间应较窄以提供信息量。我们提出分箱公平分位数回归（BFQR），一种无分布后处理方法，可为任意已训练 ML 模型改善 EOC 且区间宽度合理。它先在留出集上校准以约束偏离 EOC 的程度，再利用保形预测在测试集上维持 EOC，同时优化预测区间宽度。实验结果证明了我们的方法在改善 EOC 上的有效性。代码发布于 https://github.com/fangxin-wang/bfqr。
引用
@article{arxiv.2311.02243,
title = {Equal Opportunity of Coverage in Fair Regression},
author = {Fangxin Wang and Lu Cheng and Ruocheng Guo and Kay Liu and Philip S. Yu},
journal= {arXiv preprint arXiv:2311.02243},
year = {2023}
}
备注
Accepted to NeurIPS 2023 main conference