累积后悔下通信高效的联邦学习自适应算法
机器学习
2023-06-07 v2 分布式、并行与集群计算
摘要
我们考虑分布式设定下带有 个通过中心服务器连接的客户端的在线随机优化问题。我们开发了一种分布式在线学习算法，该算法以整个学习周期内传输的总比特数所衡量的低通信代价实现了阶最优的累积后悔。这与关注以简单后悔作为学习效率离线度量的现有研究形成对比。对通信代价的整体度量也脱离了将通信频率与每轮通信比特数\emph{分开}处理的流行方法。
引用
@article{arxiv.2301.08869,
title = {A Communication-Efficient Adaptive Algorithm for Federated Learning under Cumulative Regret},
author = {Sudeep Salgia and Qing Zhao and Tamir Gabay and Kobi Cohen},
journal= {arXiv preprint arXiv:2301.08869},
year = {2023}
}