中文

谈还是算:面向异构移动边缘设备节能联邦学习的灵活通信压缩

机器学习 2020-12-23 v1 人工智能

摘要

机器学习、无线通信与移动硬件技术的最新进展有望在海量移动边缘设备上实现联邦学习(FL),为众多智能移动应用开辟了新前景。尽管有潜在益处,FL 因周期性全局同步与持续本地训练给参与设备带来巨大通信与计算负担,对电池受限的移动设备构成重大挑战。本文旨在提升移动边缘网络上 FL 的能效,以适配异构参与设备且不牺牲学习性能。为此,我们开发了具有收敛保证、支持灵活通信压缩的 FL 算法。在导出的收敛界指导下,我们设计了一种压缩控制方案,从长期学习角度平衡本地计算(即“工作”)与无线通信(即“交谈”)的能耗。具体而言,为 FL 参与者精心选择压缩参数,以适配其计算与通信环境。利用多个数据集进行了大量仿真以验证理论分析,结果也证明了所提方案在节能方面的有效性。

关键词

引用

@article{arxiv.2012.11804,
  title  = {To Talk or to Work: Flexible Communication Compression for Energy Efficient Federated Learning over Heterogeneous Mobile Edge Devices},
  author = {Liang Li and Dian Shi and Ronghui Hou and Hui Li and Miao Pan and Zhu Han},
  journal= {arXiv preprint arXiv:2012.11804},
  year   = {2020}
}

备注

Accepted for publication in INFOCOM'21