FedAdaVR：面向有限客户端参与的鲁棒性联邦学习的自适应方差归约
机器学习
2026-05-12 v2 分布式、并行与集群计算
摘要
联邦学习（Federated Learning）由于异构性问题，面临着梯度噪声、客户端漂移以及部分客户端参与错误，其中后者是最普遍但在当前文献中仍未得到充分解决的难题。本文提出FedAdaVR，一种新颖的联邦学习算法，旨在通过引入自适应优化器和方差归约技术来解决因间歇性客户端参与导致的异构性问题。该方法利用客户端存储的最新更新，即使它们在当前训练轮次中缺席，也能模拟其存在。进一步，我们提出了FedAdaVR-Quant版本，该版本以量化形式存储客户端更新，显著降低了FedAdaVR的内存需求（分别降低50%、75%和87.5%），同时保持高度具竞争力的模型性能。我们在一般非凸条件下分析了FedAdaVR的收敛行为，并证明该算法可消除部分客户端参与错误。对多个数据集进行的大量实验，分别在独立同分布（IID）和非独立同分布（non-IID）设置下，都表明FedAdaVR在与最新基线方法相比时始终表现出色。
引用
@article{arxiv.2601.22204,
title = {FedAdaVR: Adaptive Variance Reduction for Robust Federated Learning under Limited Client Participation},
author = {S M Ruhul Kabir Howlader and Xiao Chen and Yifei Xie and Lu Liu},
journal= {arXiv preprint arXiv:2601.22204},
year = {2026}
}