中文

及时异步分层联邦学习:收敛年龄

信息论 2023-06-22 v1 分布式、并行与集群计算 机器学习 网络与互联网体系结构 信号处理 math.IT

摘要

我们考虑一种具有客户端-边缘-云框架的异步分层联邦学习(AHFL)设置。客户端与对应的边缘服务器交换训练参数,边缘服务器更新本地聚合模型。该模型随后被传输至本地簇中的所有客户端。边缘服务器与中心云服务器通信以进行全局模型聚合。每个客户端的目标是收敛到全局模型,同时保持客户端的及时性,即具有最优的训练迭代时间。我们研究了此类具有密集簇的系统的收敛准则。我们的分析表明,对于具有固定平均及时性的 nn 个客户端的系统,若节点被划分为 O(1)O(1) 个数量的簇,即若系统被构建为具有密集客户端基群的稀疏边缘服务器集合,则有限时间内的收敛在概率意义下得到保证。

关键词

引用

@article{arxiv.2306.12400,
  title  = {Timely Asynchronous Hierarchical Federated Learning: Age of Convergence},
  author = {Purbesh Mitra and Sennur Ulukus},
  journal= {arXiv preprint arXiv:2306.12400},
  year   = {2023}
}