使用监督学习模型的公平序贯选择
机器学习
2021-10-28 v1 人工智能
计算机与社会
摘要
我们考虑一个选择问题：依次到达的申请人竞争有限数量的职位/工作。在每一步，决策者在所有空缺职位填满前，使用预训练的监督学习模型接受或拒绝当前申请人。本文讨论分类问题中常用的公平概念（如机会均等、统计 parity 等）是否适用于序贯选择问题。具体而言，我们表明即使预训练模型满足常见公平概念，选择结果仍可能对某些人口群体存在偏见。该观察意味着分类问题中使用的公平概念不适用于申请人竞争有限职位的选拔问题。我们引入适合序贯选择问题的新公平概念“平等选择（ES）”，并提出满足ES公平概念的后处理方法。我们还考虑申请人有隐私顾虑、决策者仅能获取敏感属性带噪版本的情形。在此设定下，我们可证明在特定条件下仍能实现完美的ES公平。
引用
@article{arxiv.2110.13986,
title = {Fair Sequential Selection Using Supervised Learning Models},
author = {Mohammad Mahdi Khalili and Xueru Zhang and Mahed Abroshan},
journal= {arXiv preprint arXiv:2110.13986},
year = {2021}
}
备注
This paper has been accepted for publication in the 35th Conference on Neural Information Processing Systems (NeurIPS 2021)