面向非线性回归的通信高效在线联邦学习框架
机器学习
2021-10-14 v1 系统与控制
信号处理
系统与控制
摘要
联邦学习(FL)文献通常假设每个客户端拥有固定数量的数据,这在许多实际应用中并不现实。一些近期工作引入了在线联邦学习(Online-Fed)框架,其中客户端在流式数据上执行模型学习并将模型传送至服务器;然而,它们未解决相关的通信开销问题。作为解决方案,本文提出了一种基于部分共享的在线联邦学习框架(PSO-Fed),使客户端能够利用连续流式数据更新其本地模型,并仅与服务器共享这些更新模型的部分内容。在 PSO-Fed 的全局迭代期间,非参与客户端享有利用新数据更新其本地模型的特权。此处,我们考虑核回归的全局任务,其中客户端在其数据上使用基于随机傅里叶特征的核 LMS 进行本地学习。我们考察了 PSO-Fed 用于核回归的均值收敛性。实验结果表明,PSO-Fed 能够以显著低于 Online-Fed 的通信开销取得具有竞争力的性能。
引用
@article{arxiv.2110.06556,
title = {Communication-Efficient Online Federated Learning Framework for Nonlinear Regression},
author = {Vinay Chakravarthi Gogineni and Stefan Werner and Yih-Fang Huang and Anthony Kuh},
journal= {arXiv preprint arXiv:2110.06556},
year = {2021}
}
备注
5 pages, 2 figures, conference