联邦学习中不侵犯数据隐私的公平模型训练
机器学习
2024-11-05 v2 计算机与社会
摘要
训练公平的机器学习模型变得愈发重要。由于许多强大模型由多方协作训练,每方持有一些敏感数据,自然需要探索在联邦学习中训练公平模型的可行性,以同时充分尊重训练模型的公平性、客户端的数据隐私及客户端间的协作。然而,联邦学习中训练公平模型的任务具有挑战性,因为在不了解参与方私有数据的情况下估计模型公平性远非易事,而这常受联邦学习中隐私要求的约束。本文首先提出一种联邦估计方法,可在不侵犯任何一方数据隐私的情况下准确估计模型公平性。随后,我们利用该公平性估计形式化了一种联邦学习中训练公平模型的新问题。我们开发了 FedFair,一个精心设计的联邦学习框架,可在不侵犯数据隐私的情况下成功训练出高性能的公平模型。我们在三个真实世界数据集上的大量实验证明了本方法出色的公平模型训练性能。
引用
@article{arxiv.2109.05662,
title = {Training Fair Models in Federated Learning without Data Privacy Infringement},
author = {Xin Che and Jingdi Hu and Zirui Zhou and Yong Zhang and Lingyang Chu},
journal= {arXiv preprint arXiv:2109.05662},
year = {2024}
}
备注
Accepted by IEEE International Conference on Big Data (2024)