FedSSG：期望门控与历史感知的漂移对齐用于联邦学习
机器学习
2025-09-18 v1 人工智能
摘要
非IID数据和部分参与会导致联邦学习中的客户端漂移和不一致局部最优解，造成收敛不稳定和精度损失。我们提出FedSSG，一种随机采样引导的、历史感知的漂移对齐方法。FedSSG维护每个客户端的漂移记忆，用于累积局部模型差异，作为历史梯度的轻量级草图；关键在于，它通过一个平滑函数（由服务器采样器导出的逐阶段期望信号，即观测/期望参与率）对记忆更新和局部对齐项同时进行门控。这个具有统计依据的门控在采样噪声主导的早期阶段保持弱且平滑，然后在参与统计稳定后增强，从而在不增加额外通信的情况下缩小局部-全局差距。在CIFAR-10/100上，100/500个客户端、2-15%参与率条件下，FedSSG始终优于强漂移感知基线并加速收敛；在我们的基准测试上，它将测试精度提高了最多几个点（例如，在CIFAR-10上约+0.9，在CIFAR-100上平均比前两名基线高约+2.7），并且平均将目标精度收敛速度加快约4.5倍。该方法仅增加O(d)的客户端内存和常数时间的门控，在近IID或均匀采样下会退化为一个温和的正则化器。FedSSG表明，采样统计量可以转化为一种有原则的、历史感知的阶段控制，以稳定和加速联邦训练。
引用
@article{arxiv.2509.13895,
title = {FedSSG: Expectation-Gated and History-Aware Drift Alignment for Federated Learning},
author = {Zhanting Zhou and Jinshan Lai and Fengchun Zhang and Zeqin Wu and Fengli Zhang},
journal= {arXiv preprint arXiv:2509.13895},
year = {2025}
}
备注
4 page main text for conference