中文

DOLFIN:在联邦持续学习中平衡稳定性与可塑性

机器学习 2025-10-16 v1

摘要

联邦持续学习 (FCL) 使模型能够在多个分布式客户端上学习新任务,同时保护隐私且不遗忘先前获取的知识。然而,当前方法面临在性能、隐私保护和通信效率之间进行权衡的挑战。我们引入了一种新的方法DOLFIN,即分布式在线LoRA用于联邦INcremental学习方法,一种结合了视觉转换器与低秩适配器的新方法,旨在高效且稳定地在联邦环境中学习新任务。我们的方法利用LoRA实现最小的通信开销,并包含DualGradient Projection Memory (DualGPM) 以防止遗忘。在CIFAR-100、ImageNet-R、ImageNet-A和CUB-200上评估了DOLFIN,在两种Dirichlet异构性设置下,DOLFIN在最终平均准确率上持续超过六个强基准,同时匹配其内存占用。正交低秩适配器为联邦环境中的隐私保留持续学习提供了有效且可扩展的解决方案。

关键词

引用

@article{arxiv.2510.13567,
  title  = {DOLFIN: Balancing Stability and Plasticity in Federated Continual Learning},
  author = {Omayma Moussadek and Riccardo Salami and Simone Calderara},
  journal= {arXiv preprint arXiv:2510.13567},
  year   = {2025}
}