中文

非凸复合型联邦学习:数据异构性下的创新算法

机器学习 2025-02-07 v1 分布式、并行与集群计算

摘要

我们提出一种创新的非凸复合型联邦学习算法,通过解耦 proximal 算子计算与服务器与客户端之间的通信。此外,每个客户端使用局部更新来减少与服务器的通信频率,每轮通信仅发送一个 d 维向量,并克服客户端漂移问题。在分析中,挑战源于算法中解耦策略和局部更新的使用,以及问题的非凸性和非光滑性。我们在一般非凸性和 proximal Polyak-Lojasiewicz 不等式下,分别建立了收敛到有界残差误差的亚线性和线性收敛。在数值实验中,我们在合成数据和真实数据上展示了该算法在状态-of-the-art 方法中的优势。

关键词

引用

@article{arxiv.2502.03958,
  title  = {Non-convex composite federated learning with heterogeneous data},
  author = {Jiaojiao Zhang and Jiang Hu and Mikael Johansson},
  journal= {arXiv preprint arXiv:2502.03958},
  year   = {2025}
}