基于预测率平等的算法偏差检测与缓解
统计方法学
2023-06-01 v3
摘要
预测平等（PP），亦称充分性，是算法公平性的核心定义，本质上表明无论群体如何，模型输出对预期结果必须具有相同的解释。在许多模型分数由人类解释或直接提供机会获取的场景（如医疗或银行）中，检验并满足PP尤为重要。针对PP违背的解决主要透过模型校准视角研究。然而，我们发现现有的基于校准的检验与缓解方法针对独立数据设计，而在社交媒体或医学检测等大规模应用中往往无法假定独立性。本工作中，我们通过发展一种基于统计严谨的非参数回归的PP检验（适用于相关观测）来解决此问题。随后应用我们的检验说明在两种假设下PP检验可有显著差异。最后，我们提供一种缓解方案，给出最小偏置的后处理变换函数以实现PP。
引用
@article{arxiv.2204.05947,
title = {Detection and Mitigation of Algorithmic Bias via Predictive Rate Parity},
author = {Cyrus DiCiccio and Brian Hsu and YinYin Yu and Preetam Nandy and Kinjal Basu},
journal= {arXiv preprint arXiv:2204.05947},
year = {2023}
}