中文

面向数据稀缺与异构性的分布层 AirComp 无线联邦学习

信号处理 2025-06-09 v1

摘要

传统联邦学习方法在现实无线边缘网络中面临数据稀缺和异构性两个关键挑战,常导致训练不稳定和泛化性能差。为此,我们提出一种基于贝叶斯推断的新型无线联邦学习框架。通过贝叶斯方法,本框架通过维护局部权重的分布来捕获模型不确定性,并对局部分布进行分布层级的聚合,以形成全局分布。此举可缓解局部过拟合和客户端漂移,从而实现更可靠的推理。然而,采用贝叶斯联邦学习会因需传输更丰富的模型信息而增加通信开销,并彻底改变聚合过程,超出简单平均值的范畴。因此,常用于提高标准联邦学习通信效率的空中计算(AirComp)无法直接应用。为此,我们设计了一种专为贝叶斯联邦学习定制的 AirComp 方案,利用无线信道的叠加特性,高效地对局部后验分布进行分布层级的聚合。此外,我们在严格的收敛分析基础上推导了最优发射功率控制策略,以在功率约束下加速训练。我们的分析显式考虑了衰落和噪声等实际无线干扰,提供了收敛的理论保证。大量仿真实验验证了本框架的有效性,证明在数据稀缺和异构环境下,本方法相较于传统联邦学习方法在测试准确率和校准性能上均实现显著提升。

关键词

引用

@article{arxiv.2506.06090,
  title  = {Distribution-Level AirComp for Wireless Federated Learning under Data Scarcity and Heterogeneity},
  author = {Jun-Pyo Hong and Hyowoon Seo and Kisong Lee},
  journal= {arXiv preprint arXiv:2506.06090},
  year   = {2025}
}