具有重传的空中联邦学习（扩展版）
信号处理
2021-11-22 v1 机器学习
摘要
受无线设备计算能力不断增强以及用户与设备生成数据量空前增长的推动，新的分布式机器学习（ML）方法应运而生。在无线领域中，联邦学习（FL）因其通信高效性及处理非独立同分布（non-IID）数据问题的能力而备受关注。FL 训练可通过一种称为空中计算（Over-the-Air Computation，AirComp）的无线通信方法加速，该方法利用同步上行传输的干扰来高效聚合模型更新。然而，由于 AirComp 采用模拟通信，其引入了不可避免的估计误差。本文中，我们研究此类估计误差对 FL 收敛性的影响，并提出以重传作为在资源受限无线网络上改善 FL 收敛的方法。首先，我们推导了静态信道下具有重传的最优 AirComp 功率控制方案。随后，我们考察了具有重传的空中 FL 的性能，并给出了 FL 损失函数的两个上界。最后，我们提出了一种用于选择最优重传次数的启发式方法，该方法可在训练 ML 模型之前计算。数值结果表明，引入重传可带来改进的 ML 性能，且不会在通信或计算方面产生额外开销。此外，我们给出了关于该启发式方法的仿真结果，表明其能针对不同无线网络配置与机器学习问题正确识别最优重传次数。
引用
@article{arxiv.2111.10267,
title = {Over-the-Air Federated Learning with Retransmissions (Extended Version)},
author = {Henrik Hellström and Viktoria Fodor and Carlo Fischione},
journal= {arXiv preprint arXiv:2111.10267},
year = {2021}
}
备注
14 pages, 8 figure, journal paper