时间漂移下的联邦学习——通过经验回放缓解灾难性遗忘
机器学习
2026-01-21 v1 分布式、并行与集群计算
摘要
联邦学习在客户端数据分布随时间变化的时间概念漂移下表现不佳。我们证明了标准的 FedAvg 在 Fashion-MNIST 上的季节性漂移下会出现灾难性遗忘,准确率从 74% 降至 28%。我们提出客户端经验回放,即每个客户端在本地训练期间维护一个包含过去样本的小型缓冲区,并将其与当前数据混合。这种简单的方法无需更改服务器聚合。实验表明,每类 50 个样本的缓冲区可将性能恢复至 78-82%,有效防止了遗忘。我们的消融研究揭示了随着缓冲区大小增加,存在明显的记忆与准确率权衡。
引用
@article{arxiv.2601.13456,
title = {Federated Learning Under Temporal Drift -- Mitigating Catastrophic Forgetting via Experience Replay},
author = {Sahasra Kokkula and Daniel David and Aaditya Baruah},
journal= {arXiv preprint arXiv:2601.13456},
year = {2026}
}
备注
8 pages, 5 figures. Course project for Neural Networks & Deep Learning COMSW4776 course at Columbia University