迈向客户端驱动的联邦学习
机器学习
2024-05-27 v1 分布式、并行与集群计算
摘要
传统的联邦学习(FL)框架遵循服务器驱动模型,其中服务器决定会话启动和客户端参与,这在适应客户端对模型更新的异步需求方面面临挑战。我们引入了客户端驱动联邦学习(CDFL),这是一种新颖的FL框架,将客户端置于驱动角色。在CDFL中,每个客户端独立且异步地更新其模型,通过将本地训练的模型上传到服务器并接收针对其本地任务定制的定制模型。服务器维护一个聚类模型库,使用接收到的客户端模型迭代地细化它们。我们的框架适应客户端数据分布中的复杂动态,其特征是聚类分布的时变混合,从而能够快速适应新任务并具有优越性能。与传统的聚类FL协议(向客户端发送多个聚类模型以进行分布估计)相比,我们提出了一种将估计任务卸载到服务器并仅向客户端发送单个模型的范式,以及提高估计准确性的新策略。我们提供了CDFL收敛的理论分析。跨各种数据集和系统设置的大量实验突出了CDFL在模型性能和计算效率方面相对于基线的显著优势。
引用
@article{arxiv.2405.15407,
title = {Towards Client Driven Federated Learning},
author = {Songze Li and Chenqing Zhu},
journal= {arXiv preprint arXiv:2405.15407},
year = {2024}
}