面向6G网络计算与网络融合的联邦学习通信效率优化
机器学习
2023-11-29 v1 分布式、并行与集群计算
网络与互联网体系结构
摘要
联邦学习通过跨参与设备协作训练全局模型,有效解决了数据隐私等问题。然而,在复杂网络环境中,网络拓扑和设备算力等因素会影响其训练或通信过程。具有算力可度量、可感知、可分发、可调度、可管理能力的新型网络架构与范式——6G网络的计算与网络融合(CNC),能够有效支撑联邦学习训练并提升其通信效率。CNC通过基于业务需求、资源负载、网络状况及设备算力来引导联邦学习中参与设备的训练,可实现该目标。本文为提升复杂网络中联邦学习的通信效率,研究了面向6G网络计算与网络融合的联邦学习通信效率优化,该方法针对联邦学习中不同的网络状况与参与设备算力给出训练过程决策。实验处理了联邦学习中设备存在的两种架构,并基于算力安排设备参与训练,同时在模型参数传输过程中实现通信效率优化。结果表明,我们所提方法能够(1)良好应对复杂网络状况(2)有效均衡参与设备本地训练的时延分布(3)提升模型参数传输过程中的通信效率(4)提高网络中的资源利用率。
引用
@article{arxiv.2311.16540,
title = {Communication Efficiency Optimization of Federated Learning for Computing and Network Convergence of 6G Networks},
author = {Yizhuo Cai and Bo Lei and Qianying Zhao and Jing Peng and Min Wei and Yushun Zhang and Xing Zhang},
journal= {arXiv preprint arXiv:2311.16540},
year = {2023}
}
备注
13 pages, 11 figures, accepted by Frontiers of Information Technology & Electronic Engineering