面向监督学习的公平性感知数据估值
机器学习
2023-03-31 v1 计算机与社会
摘要
数据估值是机器学习的一个领域，研究训练样本对给定预测任务的价值。尽管数据偏差是下游模型不公平的主要来源之一，先前的数据估值工作并未考虑训练样本如何影响机器学习模型的性能与公平性。因此，我们提出公平性感知数据估值（FADO），一种可用于将公平性关注纳入一系列机器学习相关任务（例如数据预处理、探索性数据分析、主动学习）的数据估值框架。我们提出一种基于熵的数据估值度量，适用于我们同时最大化性能与公平性的双重目标，且比现有度量计算更高效。我们随后展示 FADO 如何作为基于不公平缓解预处理技术的基础。我们的方法取得了有前景的结果——与基线相比，公平性提升达 40 个百分点而性能损失小于 1 个百分点——并以数据为中心的方式促进公平，其中对数据质量的更深理解居于核心。
引用
@article{arxiv.2303.16963,
title = {Fairness-Aware Data Valuation for Supervised Learning},
author = {José Pombal and Pedro Saleiro and Mário A. T. Figueiredo and Pedro Bizarro},
journal= {arXiv preprint arXiv:2303.16963},
year = {2023}
}
备注
ICLR 2023 Workshop Trustworthy ML