FedQS：面向半异步联邦学习的梯度与模型聚合优化
机器学习
2025-11-26 v2 分布式、并行与集群计算
摘要
联邦学习（FL）允许多方在不共享原始数据的情况下协同训练模型，半异步联邦学习（SAFL）作为在同步FL和异步FL之间取得平衡的趋势方法。然而，SAFL面临在梯度聚合（如FedSGD）和模型聚合（如FedAvg）策略上的显著挑战，这些策略在准确率、收敛速度和稳定性之间呈现不同权衡。梯度聚合实现更快的收敛和更高的准确率，但 suffer于显著波动；而模型聚合虽提供更大稳定性，但收敛较慢且准确率次优。本文提出FedQS，首次对SAFL中这些差异进行理论分析并予以解决。FedQS采用划分- conquering策略，通过根据数据分布特征和可用计算资源将客户端划分为四类，并针对性地优化其本地训练。在计算机视觉、自然语言处理和实际任务上的大量实验表明，FedQS在准确率、损失值和收敛速度方面均优于最先进的基线方法。本工作填补了SAFL中聚合策略差异的空白，提供了稳定、准确且高效的联邦学习统一解决方案。代码和数据集已公开于https://github.com/bkjod/FedQS_。
引用
@article{arxiv.2510.07664,
title = {FedQS: Optimizing Gradient and Model Aggregation for Semi-Asynchronous Federated Learning},
author = {Yunbo Li and Jiaping Gui and Zhihang Deng and Fanchao Meng and Yue Wu},
journal= {arXiv preprint arXiv:2510.07664},
year = {2025}
}
备注
Accepted by NeurIPS 2025