延迟更新对去中心化联邦学习影响的理论分析
分布式、并行与集群计算
2023-11-03 v1
摘要
去中心化联邦学习是一种分布式边缘智能框架,通过在参与者之间交换参数更新而非训练数据,以重新训练或微调深度学习模型,用于移动智能应用。考虑到移动互联网中边缘网络的各种拓扑结构,对于移动设备上的数据密集型智能应用(例如智能医疗服务、自动驾驶车辆等),模型训练期间更新传输延迟的影响是不可忽略的。为解决该问题,我们分析了延迟更新对去中心化联邦学习的影响,并给出了这些更新实现模型收敛的理论界。在更新周期的理论界内,若来自特定邻居的模型参数未及时收集或更新,则重用延迟更新中的最新版本以继续聚合。
引用
@article{arxiv.2311.01229,
title = {Theoretical Analysis of Impact of Delayed Updates on Decentralized Federated Learning},
author = {Yong Zeng and Siyuan Liu and Zhiwei Xu and Jie Tian},
journal= {arXiv preprint arXiv:2311.01229},
year = {2023}
}