无排练联邦域增量学习
机器学习
2025-04-02 v2 计算机视觉与模式识别
摘要
我们介绍了一个基于全局提示共享范式的无排练联邦域增量学习框架RefFiL，以缓解联邦域增量学习中不断学习未见域时的灾难性遗忘问题。典型缓解遗忘的方法（如使用额外数据集和保留早期任务的私有数据）由于设备资源有限在联邦学习(FL)中不可行。我们的方法RefFiL通过学习域不变知识并整合来自不同FL参与者所代表域的特定域提示来解决这一问题。RefFiL的一个关键特性是通过域自适应提示生成器生成局部细粒度提示，有效学习局部域知识同时保持全局尺度上的独特边界。我们还引入了域特定提示对比学习损失，区分局部生成提示与其他域提示，增强RefFiL的精度和有效性。相比现有方法，RefFiL显著缓解灾难性遗忘而不需要额外内存空间，使其非常适合隐私敏感和资源受限设备。
引用
@article{arxiv.2405.13900,
title = {Rehearsal-free Federated Domain-incremental Learning},
author = {Rui Sun and Haoran Duan and Jiahua Dong and Varun Ojha and Tejal Shah and Rajiv Ranjan},
journal= {arXiv preprint arXiv:2405.13900},
year = {2025}
}
备注
Camera ready version. Accepted by the IEEE ICDCS, 2025