WassFFed: Wasserstein 公平联邦学习
机器学习
2024-11-12 v1 机器学习
摘要
联邦学习（FL）采用一种训练方法来解决用户数据无法在客户端之间共享的场景。在 FL 中实现公平性至关重要，因为 FL 中的训练数据本质上是在不同用户组之间地理分布的。现有关于公平性的研究主要假设可以访问完整的训练数据，这使得直接迁移到 FL 具有挑战性。然而，现有的关于 FL 中公平性的有限研究未能有效应对两个关键挑战，即（CH1）当前方法无法处理使用代理函数获得的公平优化结果与公平分类结果之间的不一致性。（CH2）由于客户端之间的非独立同分布（non-IID）数据，直接聚合局部公平模型并不总能产生全局公平模型。为了解决这些挑战，我们提出了 Wasserstein 公平联邦学习框架，即 WassFFed。为解决 CH1，我们确保局部模型的输出（而非使用代理函数计算的损失或使用阈值获得的分类结果）与不同用户组无关。为解决 CH2，我们对所有局部模型在每个用户组上的输出进行 Wasserstein 重心计算，使局部模型输出更接近全局输出分布，以确保全局模型与局部模型之间的一致性。我们在三个真实数据集上进行了广泛实验，证明 WassFFed 在准确率与公平性之间的平衡上优于现有方法。
引用
@article{arxiv.2411.06881,
title = {WassFFed: Wasserstein Fair Federated Learning},
author = {Zhongxuan Han and Li Zhang and Chaochao Chen and Xiaolin Zheng and Fei Zheng and Yuyuan Li and Jianwei Yin},
journal= {arXiv preprint arXiv:2411.06881},
year = {2024}
}
备注
Submitted to TKDE