中文

客户端-边缘-云分层联邦学习

网络与互联网体系结构 2019-11-01 v2 机器学习

摘要

联邦学习是一种协作式机器学习框架,可在不访问客户端私有数据的情况下训练深度学习模型。以往工作假设在云端或边缘有一个中心参数服务器。云服务器可访问更多数据,但通信开销过大且延迟长,而边缘服务器与客户端通信更高效。为结合二者优势,我们提出了一种客户端-边缘-云分层联邦学习系统,并辅以 HierFAVG 算法,允许多个边缘服务器执行部分模型聚合。由此,模型可训练得更快,并能实现更优的通信-计算权衡。我们给出了 HierFAVG 的收敛性分析,并研究了关键参数的影响,从而得出定性设计准则。实证实验验证了分析,并展示了该分层架构在不同数据分布场景下的优势。特别地,结果表明,与基于云的联邦学习相比,引入中间边缘服务器可同时减少模型训练时间与终端设备的能耗。

关键词

引用

@article{arxiv.1905.06641,
  title  = {Client-Edge-Cloud Hierarchical Federated Learning},
  author = {Lumin Liu and Jun Zhang and S. H. Song and Khaled B. Letaief},
  journal= {arXiv preprint arXiv:1905.06641},
  year   = {2019}
}

备注

6 pages, 4 figures