无线量化联邦学习:计算与通信联合设计
信号处理
2022-03-14 v1 机器学习
摘要
近来,联邦学习(FL)作为一种前景广阔的去中心化机器学习方法引发了广泛关注,其具备隐私保护与低时延特性。然而,通信瓶颈仍是制约 FL 在无线网络中高效部署亟需解决的问题。本文旨在通过在上行传输前对本地模型参数进行量化,最小化 FL 的总收敛时间。更具体地,首先给出了带随机量化的 FL 算法的收敛性分析,揭示了量化误差对收敛速率的影响。随后,基于收敛性分析所导出的能量与量化误差约束,我们联合优化计算资源、通信资源与量化比特数,以保证所有全局轮次上的收敛时间最小。评估了量化误差对收敛时间的影响,并揭示了模型精度与及时执行之间的权衡。此外,所提方法相较基线方案展现出更快的收敛速度。最后,为量化误差容限的选择提供了有益见解。
引用
@article{arxiv.2203.05878,
title = {Wireless Quantized Federated Learning: A Joint Computation and Communication Design},
author = {Pavlos S. Bouzinis and Panagiotis D. Diamantoulakis and George K. Karagiannidis},
journal= {arXiv preprint arXiv:2203.05878},
year = {2022}
}