中文

ELF:具有原始、对偶与双向压缩的联邦朗之万算法

机器学习 2023-03-09 v1 机器学习 最优化与控制

摘要

联邦采样算法近来在机器学习和统计学界获得了极大关注。本文研究了此类算法称为误差反馈朗之万算法(ELF)的变体。具体而言,我们分析了EF21和EF21-P与联邦朗之万蒙特卡洛的组合。我们提出了三种算法:P-ELF、D-ELF和B-ELF,分别使用原始、对偶和双向压缩器。我们在对数 Sobolev 不等式下分析了所提方法,并给出了非渐近收敛保证。

关键词

引用

@article{arxiv.2303.04622,
  title  = {ELF: Federated Langevin Algorithms with Primal, Dual and Bidirectional Compression},
  author = {Avetik Karagulyan and Peter Richtárik},
  journal= {arXiv preprint arXiv:2303.04622},
  year   = {2023}
}