过时参数更新中的及时性：基于FAIR-k的 over-the-air 联邦学习
机器学习
2025-12-23 v1 分布式、并行与集群计算
摘要
将 over-the-air 计算（OAC）融入联邦学习（FL）模型训练过程中是有效缓解FL系统通信瓶颈的方法。在OAC-FL中，每个客户端将其中间参数（如梯度）调制到相同的正交波形上，并同时传输无线信号给边缘服务器。通过利用多访问信道的叠加特性，边缘服务器可自动从接收信号中获得聚合后的全局梯度。然而，实际系统中可用正交波形的数量在根本上与现代深度学习模型的高维度不匹配。为解决此问题，我们提出一种名为FAIR-k（Freshness-mAgnItude awaRe top-k）的算法，该算法在每个通信轮次中选择最有影响力的梯度子集进行 over-the-air 更新。本质上，FAIR-k 将Round-Robin和Top-k算法的互补优势结合起来，在及时性（参数更新的新鲜度）和重要性（梯度幅度）之间取得精妙的平衡。借助马尔可夫分析工具，我们刻画了FAIR-k下参数鲜度分布。基于此，我们建立了采用FAIR-k的OAC-FL收敛率分析，揭示了数据异构性、信道噪声和参数鲜度对训练效率的联合作用。值得注意的是，与传统假设所有客户端都有统一Lipschitz常数的分析不同，本框架采用更细粒度的数据异构性模型。分析表明，由于FAIR-k促进了新鲜（且公平）的参数更新，不仅加速了收敛，还通过允许更长的本地训练周期而提升了通信效率。
关键词
引用
@article{arxiv.2512.19103,
title = {Timely Parameter Updating in Over-the-Air Federated Learning},
author = {Jiaqi Zhu and Zhongyuan Zhao and Xiao Li and Ruihao Du and Shi Jin and Howard H. Yang},
journal= {arXiv preprint arXiv:2512.19103},
year = {2025}
}