实现复合联邦学习的线性加速

本文提出 FedNMap，一种基于正规图谱的方法，用于复合联邦学习，其中目标函数由光滑损失和可能非光滑正则化器组成。FedNMap 利用基于正规图谱的更新方案处理非光滑项，并纳入局部校正策略以缓解跨客户端数据异构性的影响。在包括光滑局部损失、正则化器的弱凸性以及有界随机梯度方差等标准假设下，FedNMap 对非凸损失在客户端数量和局部更新次数上实现线性加速，无论是否满足 Polyak-{\L}ojasiewicz 条件。据我们所知，这是首个为非凸复合联邦学习建立线性加速的算法。数值实验证实了我们的理论结果，证明了 FedNMap 的线性加速。