无线网络中具能耗感知的通信高效联邦学习
机器学习
2021-09-07 v3 信号处理
机器学习
摘要
在联邦学习（FL）中，由于参数服务器与移动设备通过无线链路共享训练参数，降低通信开销是最关键的挑战之一。基于此考虑，我们采用 SignSGD 的思想，仅交换梯度的符号。此外，现有多数工作假设移动设备与参数服务器端均可用信道状态信息（CSI），从而移动设备可采用由信道容量决定的固定传输速率。本工作中仅假设参数服务器端 CSI，并考虑带中断的信道容量。此时，移动设备的一个核心问题是选取合适的本地处理与通信参数（包括传输速率），以在整体学习性能与能耗之间达成期望的平衡。我们建立并求解了两个优化问题，分别在给定能耗要求下优化学习性能，以及反之在给定学习性能下优化能耗。进一步，考虑到 FL 中数据在移动设备上可能高度不均衡分布，提出了一种基于随机符号的算法。大量仿真验证了所提方法的有效性。
引用
@article{arxiv.2004.07351,
title = {Communication Efficient Federated Learning with Energy Awareness over Wireless Networks},
author = {Richeng Jin and Xiaofan He and Huaiyu Dai},
journal= {arXiv preprint arXiv:2004.07351},
year = {2021}
}