缓解联邦学习中的群体偏差：超越局部公平性
机器学习
2023-05-18 v1 计算机与社会
摘要
机器学习模型中的群体公平性问题，即某些子群体或组别受到偏爱而非其他组别，已被认识一段时间。虽然在集中式学习中已提出许多缓解策略，但其中许多方法并不直接适用于联邦学习，因为数据 privately 存储在多个客户端上。为此，许多方案试图在聚合前于客户端层面缓解偏差，我们称之为局部公平训练。然而，这些方法的有效性尚不明了。在本工作中，我们通过研究全局模型公平性与局部模型公平性之间的关系，考察局部公平训练的理论基础。此外，我们证明对于广泛一类公平性度量，全局模型的公平性可仅利用来自本地客户端的汇总统计量获得。基于此，我们提出了一种全局公平训练算法，直接最小化带惩罚的经验损失。真实数据实验表明，与局部公平训练方法相比，我们所提方法在保持高准确率的同时提升公平性，性能令人瞩目。
引用
@article{arxiv.2305.09931,
title = {Mitigating Group Bias in Federated Learning: Beyond Local Fairness},
author = {Ganghua Wang and Ali Payani and Myungjin Lee and Ramana Kompella},
journal= {arXiv preprint arXiv:2305.09931},
year = {2023}
}