中文

优先梯度符号而非模值:面向无线联邦学习的重要性感知框架

机器学习 2026-03-12 v1 信息论 信号处理 math.IT

摘要

无线联邦学习( FL)促进了人工智能( AI)模型的协同训练,以支持无线边缘的普遍智能应用。然而,受限于无线资源的内在约束,必然导致不可靠的通信,为无线 FL带来了重大挑战。为克服此挑战,我们提出Sign-Prioritized FL( SP-FL),一种新型框架,通过不均衡资源分配来优先传输重要梯度信息,从而提高无线 FL的可靠性。具体而言,认识到模型更新中下降方向的重要性,我们单独传输梯度符号,并允许在无法正确恢复剩余梯度模值时重用这些符号进行梯度下降。为进一步提高重要信息传输的可靠性,我们基于符号和模值在数据包和设备层面的重要性差异,构建了分层资源分配问题,优化跨多个设备的带宽分配以及符号和模值数据包之间的功率分配。为使问题可求解,分析了SP-FL的单步收敛行为,该行为以显式形式刻画两层数据重要性。我们随后提出一种基于Newton-Raphson法和成功凸近( SCA)的交替优化算法来求解此问题。仿真结果确认了SP-FL的优越性,尤其在资源受限场景下,相较于现有方法在CIFAR-10数据集上实现了最高9.96%的测试准确率提升。

关键词

引用

@article{arxiv.2603.10763,
  title  = {Prioritizing Gradient Sign Over Modulus: An Importance-Aware Framework for Wireless Federated Learning},
  author = {Yiyang Yue and Jiacheng Yao and Wei Xu and Zhaohui Yang and George K. Karagiannidis and Dusit Niyato},
  journal= {arXiv preprint arXiv:2603.10763},
  year   = {2026}
}