具有双向量化通信与缓冲聚合的异步联邦学习
机器学习
2023-08-02 v1 信号处理
最优化与控制
摘要
具有缓冲聚合的异步联邦学习(FedBuff)是一种以其高效性和高可扩展性而闻名的先进算法。然而,它的通信成本较高,且尚未在量化通信下被研究。为解决此问题,我们提出了一种新算法(QAFeL),其量化方案在服务器与客户端之间建立共享的“隐藏”状态,以避免直接量化引起的误差传播。该方法可在显著降低客户端-服务器交互中传输数据量的同时保持高精度。我们为 QAFeL 提供了理论收敛性保证,并在标准基准上通过实验证实了我们的分析。
引用
@article{arxiv.2308.00263,
title = {Asynchronous Federated Learning with Bidirectional Quantized Communications and Buffered Aggregation},
author = {Tomas Ortega and Hamid Jafarkhani},
journal= {arXiv preprint arXiv:2308.00263},
year = {2023}
}
备注
Accepted at the 2023 ICML Workshop of Federated Learning and Analytics in Practice