中文

具有客户端异构性的联邦极小极大优化

机器学习 2023-02-10 v2 分布式、并行与集群计算 最优化与控制 机器学习

摘要

随着 GAN 等现代应用的出现,极小极大优化受到大量关注,且其本质上比简单最小化更具挑战性。当训练数据驻留于多个边缘设备或\textit{客户端}时,这一困难被加剧,尤其当这些客户端可能拥有异构数据集和本地计算能力时。我们提出一个通用联邦极小极大优化框架,囊括此类设定及若干现有方法如 Local SGDA。我们表明,对异构本地进度的朴素聚合会导致优化一个错配的目标函数——这一现象在标准联邦最小化中已被观测到。为修正该问题,我们提出以连续通信轮次间所执行的本地步数来归一化客户端更新。我们分析了所提算法在非凸-凹与非凸-非凹函数类上的收敛性,并刻画了异构客户端数据、部分客户端参与以及异构本地计算的影响。我们的分析在比现有文献所考虑的更通用的客户端内噪声与客户端间异构性假设下成立。对于所有考虑的函数类,我们显著改进了现有的计算与通信复杂度结果。实验结果支持我们的理论断言。

关键词

引用

@article{arxiv.2302.04249,
  title  = {Federated Minimax Optimization with Client Heterogeneity},
  author = {Pranay Sharma and Rohan Panda and Gauri Joshi},
  journal= {arXiv preprint arXiv:2302.04249},
  year   = {2023}
}

备注

52 pages, 8 figures