FedGPS:针对联邦学习中数据异构性的统计校正
机器学习
2025-10-24 v1
摘要
联邦学习(FL)面临称为数据异构性的重大挑战,这会损害模型性能和收敛。现有方法在解决此问题方面取得了显著进展。然而,改善特定异构情景下的性能仍是一个被忽视的问题:\textit{这些方法在多样异构情景下部署时有多么稳健?}为此,我们在多样异构情景中进行了全面评估,表明大多数现有方法在稳健性方面受限。同时,这些实验的洞见凸显,共享统计信息可通过使客户端获得全局视角来缓解异构性。鼓励此发现,我们提出\textbf{FedGPS}(\textbf{Fed}erated \textbf{G}oal-\textbf{P}ath \textbf{S}ynergy),一个新型框架无缝整合来自他人的统计分布和梯度信息。具体而言,FedGPS静态修改每个客户端的学习目标,以隐式建模全局数据分布,同时在每个轮次动态调整本地更新方向。大量实验表明,FedGPS在多样异构情景下超越了最先进的方法,验证了其有效性和稳健性。代码可在:https://github.com/CUHK-AIM-Group/FedGPS 获取。
引用
@article{arxiv.2510.20250,
title = {FedGPS: Statistical Rectification Against Data Heterogeneity in Federated Learning},
author = {Zhiqin Yang and Yonggang Zhang and Chenxin Li and Yiu-ming Cheung and Bo Han and Yixuan Yuan},
journal= {arXiv preprint arXiv:2510.20250},
year = {2025}
}
备注
35 pages, 15 figures, 21 tables