组内公平性：迈向更合理的组间公平性指导
机器学习
2023-01-23 v1 计算机与社会
机器学习
应用统计
摘要
由于对社决策具有重大影响，AI 算法不仅应准确，而且不应针对某些敏感群体（如非白人、女性）产生不公平。各种专门设计的 AI 算法已开发出来，以确保训练后的 AI 模型在敏感群体间公平。本文提出一个新问题：组间公平的 AI 模型可能对同一敏感群体内的个体不公平对待。我们引入一种称为组内公平性的新公平概念，要求 AI 模型对同一敏感群体内及不同敏感群体间的个体均公平。我们通过提出相应数学定义并开发学习算法来同时控制组内与组间公平性，使该概念具体化。数值研究表明，所提学习算法在提升组内公平性的同时不牺牲准确性与组间公平性。
引用
@article{arxiv.2301.08375,
title = {Within-group fairness: A guidance for more sound between-group fairness},
author = {Sara Kim and Kyusang Yu and Yongdai Kim},
journal= {arXiv preprint arXiv:2301.08375},
year = {2023}
}