面向移动边缘计算的网络化混合专家模型高效联邦学习
机器学习
2026-03-10 v2 人工智能
网络与互联网体系结构
摘要
大型人工智能模型(LAM)的近期发展推动了下一代无线网络中移动边缘计算的重大创新。然而,训练LAM所需的计算资源与大规模训练数据与边缘设备的存储与计算能力限制相冲突,构成在边缘端训练与部署LAM的重大挑战。本文引入网络化混合专家系统(NMoE),客户端可依据专长将任务分派至合适邻居执行,并聚合返回结果进行推理。针对NMoE的训练,我们提出联邦学习框架,集成监督学习与自监督学习,以平衡个性化与通用性,同时保持通信效率与数据隐私。我们开展大量实验,展示NMoE系统的有效性,为NMoE训练算法提供洞见。
引用
@article{arxiv.2511.01743,
title = {Towards Efficient Federated Learning of Networked Mixture-of-Experts for Mobile Edge Computing},
author = {Song Gao and Songyang Zhang and Shusen Jing and Shuai Zhang and Xiangwei Zhou and Yue Wang and Zhipeng Cai},
journal= {arXiv preprint arXiv:2511.01743},
year = {2026}
}