通过服务器与客户端间接通信的联邦学习
分布式、并行与集群计算
2023-02-16 v1 人工智能
摘要
联邦学习(Federated Learning, FL)是一种通信高效且保护隐私的分布式机器学习框架,近期获得了大量研究关注。尽管存在不同形式的 FL 算法(如同步 FL、异步 FL)及其底层优化方法,几乎所有现有工作都隐式假设存在便于服务器与客户端之间直接通信以进行模型数据交换的通信基础设施。然而,这一假设在许多可受益于分布式学习但缺乏合适通信基础设施的现实应用(如偏远地区智能感知)中并不成立。在本文中,我们提出一种新颖的 FL 框架,名为 FedEx(通过模型快递交付的 FL 的简称),其利用移动运输器(如无人机)在服务器与客户端之间建立间接通信信道。根据运输器采用同步还是异步调度,开发了两种算法,称为 FedEx-Sync 和 FedEx-Async。尽管间接通信给客户端在全局模型分发和本地模型收集两方面都带来了异构延迟,我们证明了两个版本 FedEx 的收敛性。收敛分析进而揭示了如何将客户端分配给不同运输器以及设计客户端间路由。FedEx 的性能通过在两个公开数据集上的模拟网络实验进行了评估。
引用
@article{arxiv.2302.07323,
title = {Federated Learning via Indirect Server-Client Communications},
author = {Jieming Bian and Cong Shen and Jie Xu},
journal= {arXiv preprint arXiv:2302.07323},
year = {2023}
}
备注
6 pages