FedFFT：通过频谱扰动过滤抑制联邦SAM中的客户端漂移
机器学习
2026-07-05 v1
摘要
联邦学习（FL）实现了无需数据共享的分散训练，但遭受跨客户端的统计异质性，导致与集中训练相比出现客户端漂移、泛化能力差和尖锐最小值。锐度感知最小化（SAM）已成为改善泛化的一种有前途的方法，但它在联邦学习中的应用仍然存在发散问题，因为扰动是本地计算的，反映了特定客户端的损失几何。为了更好地理解这个问题，我们从频域这一新视角为联邦设置中的SAM扰动提供了实验证据，揭示了客户端间扰动不一致性主要集中在低频频谱中。受此洞察的启发，我们提出了频域滤波SAM扰动的联邦学习（FedFFT）。这是一种轻量级、即插即用的方法，无需额外通信即可滤除SAM扰动的低频分量，从而抑制客户端更新中的不一致分量，同时保留一致的学习信号。跨多个基准和不同骨干网络的大量实验表明，FedFFT持续优于基于SAM的FL方法，特别是在严重的非IID分布下。这些结果突显了我们频域视角在锐度感知联邦优化中的有效性、可扩展性和普遍适用性。
引用
@article{arxiv.2607.04170,
title = {FedFFT: Taming Client Drift in Federated SAM via Spectral Perturbation Filtering},
author = {Liyang Yuan and Yibo Yang and Dandan Guo},
journal= {arXiv preprint arXiv:2607.04170},
year = {2026}
}