论筛选分类器的组内公平性
机器学习
2023-08-08 v2 计算机与社会
数据结构与算法
机器学习
摘要
筛选分类器正日益用于在各种选拔过程中识别合格候选者。在此背景下,近来研究表明,若分类器经校准,可利用阈值决策规则识别包含期望数量合格候选者(在期望意义下)的最小候选集合。这支持了将校准作为筛选分类器唯一要求的关注。本文中,我们论证使用校准分类器的筛选策略可能遭受一类未被充分研究的组内不公平——它们可能不公平地对待感兴趣人口统计组内的合格成员。进一步,我们论证若分类器满足组内单调性(各组中一种自然的单调性性质),此类不公平可被避免。随后,我们引入一种基于动态规划的高效后处理算法,以最小程度修改给定校准分类器,使其概率估计满足组内单调性。我们利用美国人口普查调查数据验证算法,并表明组内单调性常能以预测粒度与入围名单规模上的微小代价实现。
引用
@article{arxiv.2302.00025,
title = {On the Within-Group Fairness of Screening Classifiers},
author = {Nastaran Okati and Stratis Tsirtsis and Manuel Gomez Rodriguez},
journal= {arXiv preprint arXiv:2302.00025},
year = {2023}
}