面向持续联邦学习的更优生成重放
机器学习
2026-03-24 v2 人工智能
摘要
联邦学习是一种使中心服务器无需访问客户端本地数据即可通过通信从分布式客户端学习的技术。然而,现有联邦学习工作主要关注静态数据下的单任务场景。本文引入持续联邦学习问题,其中客户端增量学习新任务,且由于存储受限和数据保留策略等原因无法存储历史数据。基于生成重放的方法可在不存储历史数据的情况下有效用于持续学习,但将其适配于该设定具有挑战性。通过分析训练期间客户端的行为,我们发现由非IID数据上的分布式训练引起的不稳定训练过程导致显著性能下降。为解决该问题,我们提出FedCIL模型及两个简单而有效的方案:模型整合与一致性增强。在多个基准数据集上的实验结果证明我们的方法显著优于基线。
引用
@article{arxiv.2302.13001,
title = {Better Generative Replay for Continual Federated Learning},
author = {Daiqing Qi and Handong Zhao and Sheng Li},
journal= {arXiv preprint arXiv:2302.13001},
year = {2026}
}