FedEve：桥接跨设备联邦学习中的客户端漂移与周期漂移
机器学习
2025-08-21 v1 分布式、并行与集群计算
摘要
联邦学习 (FL) 是一种机器学习范式，允许多个客户端在不暴露其私有数据的情况下协作训练共享模型。数据异质性是 FL 中的一个根本性挑战，可能导致收敛性差和性能下降。客户端漂移已被认为是导致此问题的因素之一，源于 FedAvg 中的多次本地更新。然而，在跨设备 FL 中，由于部分客户端参与而产生了一种不同形式的漂移，但尚未得到充分研究。我们将这种漂移称为周期漂移，它发生在每个通信轮次中，参与客户端的分布可能表现出与所有客户端分布不同的独特数据分布。由于优化目标在每一轮都会发生变化，它可能比客户端漂移更有害。在本文中，我们研究了周期漂移与客户端漂移之间的相互作用，发现随着数据异质性程度的增加，周期漂移可能对跨设备 FL 产生特别有害的影响。为了解决这些问题，我们提出了一个预测-观察框架，并给出了一种实例化方法 FedEve，其中这两种类型的漂移可以相互补偿，以减轻它们的总体影响。我们提供了理论证据，表明我们的方法可以减少模型更新的方差。大量实验表明，在跨设备设置的非独立同分布数据上，我们的方法优于其他替代方案。
引用
@article{arxiv.2508.14539,
title = {FedEve: On Bridging the Client Drift and Period Drift for Cross-device Federated Learning},
author = {Tao Shen and Zexi Li and Didi Zhu and Ziyu Zhao and Chao Wu and Fei Wu},
journal= {arXiv preprint arXiv:2508.14539},
year = {2025}
}