面向空中联邦学习的梯度统计感知功率控制
信号处理
2020-11-26 v3 信息论
机器学习
math.IT
摘要
联邦学习（FL）是一项极具前景的技术，可使众多边缘设备在无线网络中协作训练机器学习模型。通过利用无线波形的叠加特性，空中计算（AirComp）能够加速模型聚合，从而促进通信高效的 FL。由于信道衰落，功率控制在 AirComp 中至关重要。已有工作假设来自每个设备待聚合的信号（即本地梯度）具有相同的统计特性。然而在 FL 中，梯度统计随训练迭代和特征维度变化，且事先未知。本文研究考虑梯度统计的空中 FL 功率控制问题。目标是在峰值功率约束下，通过优化各设备的发射功率来最小化聚合误差。在给定梯度统计时，我们以闭式得到最优策略。值得注意的是，我们证明最优发射功率是连续的，并随梯度向量的平方多元变异系数（SMCV）单调下降。随后我们提出一种以可忽略通信开销估计梯度统计的方法。实验结果表明，所提出的梯度统计感知功率控制在广泛场景下比现有方案取得更高的测试精度。
引用
@article{arxiv.2003.02089,
title = {Gradient Statistics Aware Power Control for Over-the-Air Federated Learning},
author = {Naifu Zhang and Meixia Tao},
journal= {arXiv preprint arXiv:2003.02089},
year = {2020}
}
备注
30 pages, 8 figures