一种实现组间与组内公平性的规范数据变换
机器学习
2024-07-09 v2
摘要
随着处理敏感数据的机器学习算法部署增多,机器学习中的公平性问题受到关注。许多工作致力于要求不同人口群体被公平对待的应用。然而,旨在满足组间公平性(亦称群体公平性)的算法可能无意中不公平地对待同一人口群体内的个体。为解决此问题,我们引入组内公平性的形式化定义,以维持同一群体内个体间的公平。我们提出一种预处理框架,以在精度上少许折衷的情况下同时满足组间与组内公平性准则。该框架将不同群体成员的特征向量映射至组间公平的规范域,再输入评分函数。该映射被构造为保留同一人口群体个体未处理特征向量所得评分间的相对关系,从而保证组内公平性。我们将此框架应用于COMPAS风险评估与法学院数据集,并将其在达成组间与组内公平性上的表现与两种基于正则化的方法比较。
引用
@article{arxiv.2310.15097,
title = {A Canonical Data Transformation for Achieving Inter- and Within-group Fairness},
author = {Zachary McBride Lazri and Ivan Brugere and Xin Tian and Dana Dachman-Soled and Antigoni Polychroniadou and Danial Dervovic and Min Wu},
journal= {arXiv preprint arXiv:2310.15097},
year = {2024}
}