正则化联邦学习的分析

联邦学习是一种处理异构大数据和隐私保护的高效机器学习工具。带有正则化的联邦学习方法可以控制中心节点与本地节点之间的通信水平。随机梯度下降通常用于在异构大数据上实现此类方法，以降低通信成本。本文考虑一种称为无循环局部梯度下降（Loopless Local Gradient Descent）的算法，该算法通过控制概率水平在减少期望通信方面具有优势。我们通过允许灵活的步长对该方法进行改进，并在标准强凸设置之外，对算法在非凸设置下的收敛性进行了新的分析。在非凸设置中，当光滑目标函数满足Polyak-{\L}ojasiewicz条件时，我们推导了收敛速率。当目标函数是强凸时，我们给出了期望收敛的充分必要条件。