通过知识共享在无敏感属性条件下实现公平性
机器学习
2024-09-30 v1
摘要
虽然模型公平性提升已被先前的研究所探讨，但现有方法无一例外地依赖于调整显式的敏感属性值，以改善下游任务中的模型公平性。然而，我们观察到，随着公众对数据隐私的担忧日益增长，敏感的人口统计信息正变得不可获取。在本文中，我们提出了一种基于置信度的分层分类器结构，称为“Reckoner”，用于在缺失敏感属性的假设下进行可靠的公平模型学习。我们首先展示了结果，表明如果数据集包含有偏标签或其他隐藏偏差，分类器会在预测置信度较高的子集中显著扩大不同人口群体之间的偏差差距。受这些发现的启发，我们设计了一个双模型系统，其中使用高置信度数据子集初始化的模型版本从使用低置信度数据子集初始化的模型版本中学习，使其能够避免产生有偏预测。我们的实验结果表明，综合考虑准确性和公平性指标，Reckoner 在 COMPAS 数据集和 New Adult 数据集上始终优于 SOTA 基线。
引用
@article{arxiv.2409.18470,
title = {Fairness without Sensitive Attributes via Knowledge Sharing},
author = {Hongliang Ni and Lei Han and Tong Chen and Shazia Sadiq and Gianluca Demartini},
journal= {arXiv preprint arXiv:2409.18470},
year = {2024}
}