Fed-CPrompt:面向无重演联邦持续学习的对比提示方法
机器学习
2023-09-07 v2 人工智能
计算机视觉与模式识别
摘要
联邦持续学习(FCL)随时间从分布在各客户端上的机密数据集中学习增量任务。本文关注无重演的 FCL,由于缺乏历史任务数据访问权限,其在学习新任务时存在严重的遗忘问题。为解决该问题,我们提出基于提示学习技术的 Fed-CPrompt,以通信高效的方式获取任务特定提示。Fed-CPrompt 引入两个关键组件,即异步提示学习和对比持续损失,分别用于处理 FCL 中的异步任务到达和异构数据分布。大量实验证明了 Fed-CPrompt 在实现 SOTA 无重演 FCL 性能方面的有效性。
引用
@article{arxiv.2307.04869,
title = {Fed-CPrompt: Contrastive Prompt for Rehearsal-Free Federated Continual Learning},
author = {Gaurav Bagwe and Xiaoyong Yuan and Miao Pan and Lan Zhang},
journal= {arXiv preprint arXiv:2307.04869},
year = {2023}
}
备注
Accepted by FL-ICML 2023