一种新颖的优化异步联邦学习框架
机器学习
2021-11-19 v1 分布式、并行与集群计算
摘要
联邦学习(FL)自提出以来已应用于诸多领域,如信用评估、医疗等。由于网络或计算资源的差异,客户端可能无法同时更新梯度,从而导致大量等待或空闲时间。这正是需要异步联邦学习(AFL)方法的原因。AFL中的主要瓶颈在于通信。如何在模型性能与通信代价间取得平衡是AFL中的挑战。本文提出一种新颖的AFL框架VAFL。并通过充分实验验证了该算法的性能。实验表明,VAFL可约减少51.02%的通信次数,平均通信压缩率达48.23%,并令模型更快收敛。代码见\url{https://github.com/RobAI-Lab/VAFL}。
引用
@article{arxiv.2111.09487,
title = {A Novel Optimized Asynchronous Federated Learning Framework},
author = {Zhicheng Zhou and Hailong Chen and Kunhua Li and Fei Hu and Bingjie Yan and Jieren Cheng and Xuyan Wei and Bernie Liu and Xiulai Li and Fuwen Chen and Yongji Sui},
journal= {arXiv preprint arXiv:2111.09487},
year = {2021}
}
备注
8 pages