中文

Asyn2F:一种具有双向模型聚合的异步联邦学习框架

机器学习 2025-10-16 v1 分布式、并行与集群计算

摘要

在联邦学习中,模型可以同步或异步训练。许多研究工作致力于开发一种聚合方法,使服务器能够将多个局部模型聚合成性能更优的全局模型。它们忽略了训练工作节点的异质性,这会导致局部模型训练的延迟,从而引发过时信息问题。本文设计并开发了 Asyn2F,一种具有双向模型聚合的异步联邦学习框架。通过双向模型聚合,Asyn2F 一方面允许服务器异步聚合多个局部模型并生成新的全局模型;另一方面,它允许训练工作节点将新版本的全局模型聚合到局部模型中,即使该局部模型正处于训练轮次的中途。我们开发 Asyn2F 时考虑了实际部署需求,例如使用云服务进行模型存储以及使用消息队列协议进行通信。使用不同数据集进行的大量实验表明,与最先进技术相比,Asyn2F 训练的模型取得了更高的性能。实验还证明了 Asyn2F 的有效性、实用性和可扩展性,使其可用于实际场景中的部署。

关键词

引用

@article{arxiv.2403.01417,
  title  = {Asyn2F: An Asynchronous Federated Learning Framework with Bidirectional Model Aggregation},
  author = {Tien-Dung Cao and Nguyen T. Vuong and Thai Q. Le and Hoang V. N. Dao and Tram Truong-Huu},
  journal= {arXiv preprint arXiv:2403.01417},
  year   = {2025}
}