面向网络边缘联邦学习的通信-学习权衡研究
机器学习
2022-05-31 v1 信息论
信号处理
math.IT
摘要
在本文中，我们研究了一个无线联邦学习（FL）系统，其中对资源受限的本地用户应用网络剪枝。尽管剪枝有利于降低 FL 时延，但由于信息损失也会恶化学习性能。因此，引发了通信与学习之间的权衡问题。为应对这一挑战，我们通过推导具有非凸损失函数的 FL 收敛速率，量化了网络剪枝与包错误对学习性能的影响。随后，提出剪枝控制与带宽分配的闭式解，以最小化 FL 时延与 FL 性能的加权和。最后，数值结果表明：1）我们所提方案在成本降低与精度保证方面优于基准方案；2）更高的剪枝率会带来更少的通信开销，但也会恶化 FL 精度，这与我们的理论分析一致。
引用
@article{arxiv.2205.14271,
title = {Towards Communication-Learning Trade-off for Federated Learning at the Network Edge},
author = {Jianyang Ren and Wanli Ni and Hui Tian},
journal= {arXiv preprint arXiv:2205.14271},
year = {2022}
}
备注
This paper has been accepted by IEEE Communications Letters