模拟全参与:一种有效且公平的联邦学习客户端选择策略
机器学习
2025-03-25 v2 分布式、并行与集群计算
摘要
在联邦学习中,客户端选择是一个关键问题,显著影响模型性能和公平性。以往的研究通常将这两个目标分开处理,或者通过简单的加权方案进行平衡。然而,我们观察到常用的模型性能和公平性指标往往相互冲突,简单的加权组合不足以捕捉它们复杂的相互作用。为了解决这个问题,我们首先提出两个指导原则,直接解决两个指标之间的固有冲突,同时相互加强。基于这些原则,我们将客户端选择问题表述为长期优化任务,利用Lyapunov函数和问题的子模性质来有效解决。实验表明,所提出的方法同时提高了模型性能和公平性,引导系统收敛到与全客户端参与相当的水平。这种改进可以归因于模型性能和公平性都受益于所选客户端数据分布的多样性。我们的方法通过根据客户端的数据分布选择客户端来自适应地增强这种多样性,从而同时提高模型性能和公平性。
引用
@article{arxiv.2405.13584,
title = {Emulating Full Participation: An Effective and Fair Client Selection Strategy for Federated Learning},
author = {Qingming Li and Juzheng Miao and Puning Zhao and Li Zhou and H. Vicky Zhao and Shouling Ji and Bowen Zhou and Furui Liu},
journal= {arXiv preprint arXiv:2405.13584},
year = {2025}
}