面向非线性回归的资源感知异步在线联邦学习
机器学习
2021-11-30 v1 分布式、并行与集群计算
多智能体系统
系统与控制
信号处理
系统与控制
摘要
联邦学习文献中的许多假设呈现了一种在绝大多数现实应用中无法满足的理想情形。异步设定反映了联邦学习方法必须能够可靠运行的实际环境。除参与者处存在数量不等的非 IID 数据外，异步设定还建模了由于可用计算能力与电池限制导致的异构客户端参与，并考虑了客户端与服务器之间延迟的通信。为降低异步在线联邦学习（ASO-Fed）相关的通信开销，我们采用基于部分共享的通信原则。以此方式，我们减轻了参与者的通信负载，从而使参与学习任务更为容易。我们证明了所提 ASO-Fed 的收敛性，并给出仿真以进一步分析其行为。仿真表明，在异步设定下，可在将通信量减少十倍的同时，达到与联邦随机梯度（Online-FedSGD）相同的收敛性。
引用
@article{arxiv.2111.13931,
title = {Resource-Aware Asynchronous Online Federated Learning for Nonlinear Regression},
author = {Francois Gauthier and Vinay Chakravarthi Gogineni and Stefan Werner and Yih-Fang Huang and Anthony Kuh},
journal= {arXiv preprint arXiv:2111.13931},
year = {2021}
}
备注
6 pages, 3 figures, Submitted to ICC