边缘异构下资源高效且延迟感知的联邦学习设计
网络与互联网体系结构
2022-02-08 v3 机器学习
摘要
联邦学习(FL)已成为一种在无线边缘设备间分布机器学习的流行技术。我们考察了FL在当代网络两个显著特性下的情况:设备-服务器通信延迟与设备计算异构性。我们提出的StoFedDelAv算法将局部-全局模型组合器纳入FL同步步骤。我们从理论上刻画了StoFedDelAv的收敛行为,并获得了最优组合器权重,其考虑了每个设备的全局模型延迟与期望局部梯度误差。随后我们构建了一个网络感知优化问题,调整设备的小批量大小以联合最小化能耗与机器学习训练损失,并通过一系列凸近似求解该非凸问题。我们的仿真表明,StoFedDelAv在FL中优于当前最优方法,所获得的优化目标改进即为佐证。
引用
@article{arxiv.2112.13926,
title = {Resource-Efficient and Delay-Aware Federated Learning Design under Edge Heterogeneity},
author = {David Nickel and Frank Po-Chen Lin and Seyyedali Hosseinalipour and Nicolo Michelusi and Christopher G. Brinton},
journal= {arXiv preprint arXiv:2112.13926},
year = {2022}
}
备注
This paper is under review for possible publication