FedZMG：联邦学习中高效客户端侧优化
机器学习
2026-02-23 v1 人工智能
摘要
联邦学习 (FL) 使可以在边缘设备上进行分布式模型训练，同时保留数据隐私。然而，客户端的数据往往是非独立且不 identically 分布 (non-IID) 的，这常导致 client-drift，从而削弱收敛速度和模型性能。虽然提出了自适应优化器来缓解这些影响，但它们频繁引入计算复杂度或通信开销，不适用于资源受限的物联网环境。本文引入了 Federated Zero Mean Gradients (FedZMG)，一种新型、无参数的客户端侧优化算法，旨在通过结构性正则化来解决 client-drift。发展自 Gradient Centralization 概念，FedZMG 将本地梯度投影到零均值超平面，从而在不需额外通信或超参数调优的情况下中和异构数据分布中固有的 "intensity" 或 "bias" 偏移。提供了理论分析，证明 FedZMG 减少了有效梯度方差，并保证比标准 FedAvg 更紧致的收敛界限。广泛的实证评估在 EMNIST、CIFAR100 和 Shakespeare 数据集上表明，FedZMG 在收敛速度和最终验证准确率方面优于基线 FedAvg 和自适应优化器 FedAdam，特别是在高度 non-IID 设置下。
引用
@article{arxiv.2602.18384,
title = {FedZMG: Efficient Client-Side Optimization in Federated Learning},
author = {Fotios Zantalis and Evangelos Zervas and Grigorios Koulouras},
journal= {arXiv preprint arXiv:2602.18384},
year = {2026}
}