中文

具有延迟信息的无线在线联邦学习之受限空中模型更新

分布式、并行与集群计算 2025-01-13 v1

摘要

我们研究无线网络上的在线联邦学习,其中中央服务器更新在线全局模型序列,以随时间最小化多个本地设备的时变损失。服务器通过噪声多址衰落信道从本地设备进行空中模型差值聚合来更新全局模型。我们考虑了本地损失函数和信道状态信息均存在延迟,且每个本地设备处于时变功率约束下的实际场景。我们提出了具有延迟信息的受限空中模型更新(COMUDO),其中引入了一种新的上下界虚拟队列以应对延迟信息并控制硬约束违规。我们表明其本地模型更新可以通过闭式表达式高效计算。此外,通过新的 Lyapunov 漂移分析,我们证明了 COMUDO 对动态遗憾、静态遗憾和硬约束违规提供了界限。在实际无线网络设置下的图像分类任务仿真结果表明,与最先进的方法相比,COMUDO 取得了显著的准确率提升,尤其在低功率区域。

关键词

引用

@article{arxiv.2501.05637,
  title  = {Constrained Over-the-Air Model Updating for Wireless Online Federated Learning with Delayed Information},
  author = {Juncheng Wang and Yituo Liu and Ben Liang and Min Dong},
  journal= {arXiv preprint arXiv:2501.05637},
  year   = {2025}
}

备注

To appear in INFOCOM 2025