基于高精度空中计算的高能效高谱效联邦学习
机器学习
2022-08-16 v1 人工智能
摘要
联邦学习（FL）使移动设备能够在不共享本地数据的前提下协作学习一个共享预测模型。然而，在移动设备上实际部署 FL 面临两大研究挑战：（i）海量梯度参数的频繁无线更新与有限频谱资源之间的矛盾；（ii）训练期间高能耗的 FL 通信与本地计算与电池受限的移动设备之间的矛盾。为应对这些挑战，本文提出一种新颖的多比特空中计算（M-AirComp）方法，用于 FL 中本地模型更新的谱效聚合，并进一步给出一种面向移动设备的能效 FL 设计。具体而言，设计了一种高精度数字调制方案并融入 M-AirComp，使移动设备能在多址信道中于选定位置同时上传模型更新。此外，我们从理论上分析了所提 FL 算法的收敛性质。在 FL 收敛分析指导下，我们构建了传输概率与本地计算控制的联合优化，旨在最小化移动设备在 FL 中的总体能耗（即迭代本地计算 + 多轮通信）。大量仿真结果表明，我们所提方案在频谱利用率、能效和学习精度方面均优于现有方案。
引用
@article{arxiv.2208.07237,
title = {Energy and Spectrum Efficient Federated Learning via High-Precision Over-the-Air Computation},
author = {Liang Li and Chenpei Huang and Dian Shi and Hao Wang and Xiangwei Zhou and Minglei Shu and Miao Pan},
journal= {arXiv preprint arXiv:2208.07237},
year = {2022}
}