中文

FedComm:面向边缘联邦学习的通信协议研究

分布式、并行与集群计算 2022-08-19 v1

摘要

联邦学习(FL)利用本地生成的数据在设备上训练机器学习(ML)模型,并通过交换模型而非将原始数据传输至远端服务器。这种交换会产生通信开销并影响 FL 训练的性能。目前对于通信协议如何具体影响 FL 性能的理解十分有限。这种理解对于在设计 FL 系统时选择合适的通信协议至关重要。本文提出 FedComm,一种基准测试方法,用于量化优化的应用层协议(即消息队列遥测传输(MQTT)、高级消息队列协议(AMQP)和 ZeroMQ 消息传输协议(ZMTP))以及非优化的应用层协议(即 TCP 和 UDP)对 FL 性能的影响。FedComm 在不同计算与网络压力以及丢包率下,以通信时间和准确率衡量 FL 的整体性能。基于实验室测试平台的实验表明,作为非优化应用层协议,TCP 在 4G 和 Wi-Fi 网络下以更高准确率和更短通信时间优于 UDP。在大多数网络条件下,AMQP、MQTT 和 ZMTP 等优化应用层协议优于非优化应用层协议,与 TCP 相比通信时间减少 2.5 倍,同时保持准确率。实验结果使我们能够指出若干有待进一步研究的开放性问题。FedComm 可从 https://github.com/qub-blesson/FedComm 下载。

关键词

引用

@article{arxiv.2208.08764,
  title  = {FedComm: Understanding Communication Protocols for Edge-based Federated Learning},
  author = {Gary Cleland and Di Wu and Rehmat Ullah and Blesson Varghese},
  journal= {arXiv preprint arXiv:2208.08764},
  year   = {2022}
}