FedCanon：面向异构数据的非凸复合型联邦学习及其高效近端算子
机器学习
2025-12-12 v2 分布式、并行与集群计算
最优化与控制
摘要
复合型联邦学习提供了一种用于求解含额外正则化项的机器学习问题的通用框架。然而，现有方法常面临显著局限：许多方法需要客户端执行计算昂贵的近端操作，且其性能常因数据异构性而受到影响。为克服这些挑战，本文提出一种新型复合型联邦学习算法——\textbf{FedCanon}，用于求解由可能非凸损失函数与弱凸、可能非光滑正则化项组成的优化问题。通过将近端映射与局部更新解耦，FedCanon 在每一次迭代中仅需在服务器端进行一次近端求值，从而降低整体的近端计算开销。同时，它将控制变量引入局部更新，以缓解数据异构性导致的客户端漂移。整个架构无需求解原始-对偶交替方法中的复杂子问题。理论分析提供了该近端跳过框架在一般非凸情形下首个严谨的收敛性保证。它表明 FedCanon 在无限制数据异构性假设下，能够达到亚线性收敛速率，或在 Polyak-{\L}ojasiewicz 条件下达到线性收敛速率。大量实验表明，在数据分布异构的情况下，FedCanon 在准确率和计算效率方面均优于当前最先进的方法。
引用
@article{arxiv.2504.11903,
title = {FedCanon: Non-Convex Composite Federated Learning with Efficient Proximal Operation on Heterogeneous Data},
author = {Yuan Zhou and Jiachen Zhong and Xinli Shi and Guanghui Wen and Xinghuo Yu},
journal= {arXiv preprint arXiv:2504.11903},
year = {2025}
}