中文

通信高效联邦边缘学习的大规模数字空中计算

信息论 2024-08-30 v2 信号处理 math.IT

摘要

空中计算(AirComp)是一种促进无线网络中通信与计算融合的有前景技术, 在模型训练、推理以及更多新兴边缘智能应用中尤其有效。AirComp 依赖于未编码传输的单个信号,这些信号由于无线介质的叠加特性而自然在多址信道上相加。尽管在通信效率方面取得了显著提高,但如何将 AirComp 纳入现有和未来基于离散调制方案的数字通信网络中,仍是一个挑战。本文提出了一种大规模数字空中计算(MD-AirComp)方案,利用无源大规模接入协议来提高与当前和下一代无线网络的兼容性。MD-AirComp 采用向量量化来降低上行链路通信开销,并采用共享量化和调制码本。在接收端,我们提出了一种近最优的基于近似消息传递的算法,用于从叠加序列中计算模型聚合结果, 该算法依赖于估计每种码序列传输的设备数量,而非尝试解码单个发射器的消息。我们将 MD-AirComp 应用于联邦边缘学习(FEEL),并表明它在使用相同通信资源的情况下显著加快了 FEEL 的收敛速度,优于现有技术。为支持进一步的研究并确保可重复性,我们已在 https://github.com/liqiao19/MD-AirComp 上提供代码。

关键词

引用

@article{arxiv.2405.15969,
  title  = {Massive Digital Over-the-Air Computation for Communication-Efficient Federated Edge Learning},
  author = {Li Qiao and Zhen Gao and Mahdi Boloursaz Mashhadi and Deniz Gündüz},
  journal= {arXiv preprint arXiv:2405.15969},
  year   = {2024}
}

备注

IEEE Journal on Selected Areas in Communications