中文

DriftGuard:缓解联邦学习中异步数据漂移

机器学习 2026-03-20 v1

摘要

在实际的联邦学习 (FL) 部署中,参与训练的设备上的数据分布会随时间演化。这导致异步数据漂移,即不同设备以不同的时间和向不同的分布迁移。缓解此类漂移具有挑战性:频繁的再训练会增加资源受限设备上的计算成本,而不频繁的再训练则会降低漂移设备的性能。我们提出 DriftGuard,一个高效适应异步数据漂移的联邦持续学习框架。DriftGuard 采用受混合专家 (MoE) 启发的体系结构,将捕获全局可迁移知识的共享参数与针对特定群组分布的本地参数分离。这种设计使两种互补的再训练策略成为可能:(i) 全局再训练,当识别出系统范围的漂移时更新共享参数;(ii) 群组再训练,通过 MoE 门控模式识别出的设备群组,对其本地参数进行选择性更新,而无需共享原始数据。跨多个数据集和模型的实验表明,DriftGuard 在保持或超越最新技术精度的同时,将总再训练成本降低最高可达 83%。结果是,它在单位再训练成本上实现了最高的精度,相较于最强的基准提升最高可达 2.3 倍。DriftGuard 可从 https://github.com/blessonvar/DriftGuard 下载。

关键词

引用

@article{arxiv.2603.18872,
  title  = {DriftGuard: Mitigating Asynchronous Data Drift in Federated Learning},
  author = {Yizhou Han and Di Wu and Blesson Varghese},
  journal= {arXiv preprint arXiv:2603.18872},
  year   = {2026}
}

备注

13 pages, 9 figures