学习公平评分函数：基于ROC的公平性约束下的二部排序

人工智能的许多应用涉及利用个体的属性学习函数对其进行评分。这些预测风险分数随后被用于根据分数是否超过某一阈值（该阈值可能随情境变化）来决策。在信用借贷和医疗诊断等关键应用中，此类系统被赋予的自主决策程度将在很大程度上取决于公平性问题如何得到解答。本文研究从二分类标注数据学习评分函数这一问题的公平性，该经典学习任务称为二部排序（bipartite ranking）。我们认为，在此背景下作为排序准确性黄金标准的ROC曲线的函数性质，导致了多种制定公平性约束的方式。我们引入基于AUC和ROC曲线的通用公平性定义族，并表明我们的基于ROC的约束可以被实例化，使得通过对评分函数设定阈值所得的分类器在期望的阈值范围内满足分类公平性。我们建立了在此类约束下学习的评分函数的泛化界，设计了实用的学习算法，并通过真实与合成数据的数值实验展示了我们方法的相关性。