预测 parity 下的公平贝叶斯最优分类器
机器学习
2022-06-07 v2 机器学习
摘要
人们对人工智能差异影响的日益关注催生了大量关于公平机器学习的研究。现有工作主要关注基于独立性与分离性的度量（例如人口均等等价、机会均等、均等赔率），而基于充分性的度量如预测 parity 则研究甚少。本文考虑预测 parity，其要求在不同受保护群体中，给定正预测的成功概率相等。我们证明，若不同群体的整体性能仅适度差异，则预测 parity 下所有公平贝叶斯最优分类器均为分组阈值规则。或许令人惊讶的是，若群体性能水平差异较大，此结论可能不成立；在此情形下，我们发现受保护群体间的预测 parity 可能导致群体内不公平。随后我们提出一种称为 FairBayes-DPP 的算法，旨在我们的条件满足时确保预测 parity。FairBayes-DPP 是一种自适应阈值算法，旨在实现预测 parity，同时力求最大化测试准确率。我们提供了在合成与实证数据上进行的支撑性实验。
引用
@article{arxiv.2205.07182,
title = {Fair Bayes-Optimal Classifiers Under Predictive Parity},
author = {Xianli Zeng and Edgar Dobriban and Guang Cheng},
journal= {arXiv preprint arXiv:2205.07182},
year = {2022}
}
备注
arXiv admin note: text overlap with arXiv:2202.09724