面向联邦学习服务的带公平性保证的多准则客户端选择与调度
分布式、并行与集群计算
2023-12-27 v1 机器学习
摘要
联邦学习 (Federated Learning, FL) 使多个客户端能够在不共享原始训练数据的情况下协作训练机器学习模型。然而,对于给定的 FL 任务,由于预算限制和客户端异构性,如何公平地选择一组合适的客户端成为一个具有挑战性的问题。在本文中,我们提出了一种带公平性保证的多准则客户端选择与调度方案,包含两个阶段:1) 初步客户端池选择,以及 2) 每轮客户端调度。具体而言,我们首先定义了一个由客户端资源、数据质量和客户端行为等多个准则决定的客户端选择指标。然后,我们将初始客户端池选择问题表述为一个优化问题,旨在给定预算内最大化所选客户端的总得分,并提出一种贪心算法来解决它。为了保证公平性,我们进一步表述了每轮客户端调度问题,并提出一种启发式算法将客户端池划分为若干子集,使得每个客户端至少被选中一次,同时保证子集中的“整合”数据集接近独立同分布 (iid)。我们的实验结果表明,我们的方案可以提高模型质量,特别是在数据为 non-iid 时。
关键词
引用
@article{arxiv.2312.14941,
title = {Multi-Criteria Client Selection and Scheduling with Fairness Guarantee for Federated Learning Service},
author = {Meiying Zhang and Huan Zhao and Sheldon Ebron and Ruitao Xie and Kan Yang},
journal= {arXiv preprint arXiv:2312.14941},
year = {2023}
}