GC-Fed：基于梯度中心化的部分客户端参与联邦学习
机器学习
2026-02-12 v2 人工智能
分布式、并行与集群计算
摘要
联邦学习（Federated Learning, FL）支持隐私保护的多源信息融合（MSIF），但在高度异构数据设置下面临客户端漂移的挑战。许多现有的漂移缓解策略依赖于基于参考的技术——例如梯度调整或近端损失——这些技术使用历史快照（例如过去的梯度或先前的全局模型）作为参考点。当每轮训练仅有部分客户端参与时，这些历史参考可能无法准确捕捉整体数据分布，导致训练不稳定。相比之下，我们提出的梯度中心化联邦学习（GC-Fed）采用超平面作为独立于历史的参考点来指导本地训练并增强客户端间的一致性。GC-Fed 包含两个互补组件：局部 GC（Local GC）在本地训练期间对梯度进行中心化，全局 GC（Global GC）在服务器聚合期间对更新进行中心化。在我们的混合设计中，局部 GC 应用于特征提取层以协调客户端贡献，而全局 GC 优化分类器层以稳定各轮次的性能。理论分析及在基准 FL 任务上的大量实验表明，GC-Fed 有效缓解了客户端漂移，并在异构和部分参与条件下实现了高达 20% 的准确率提升。
引用
@article{arxiv.2503.13180,
title = {GC-Fed: Gradient Centralized Federated Learning with Partial Client Participation},
author = {Jungwon Seo and Ferhat Ozgur Catak and Chunming Rong and Kibeom Hong and Minhoe Kim},
journal= {arXiv preprint arXiv:2503.13180},
year = {2026}
}