中文

Fed-CPrompt:面向无重演联邦持续学习的对比提示方法

机器学习 2023-09-07 v2 人工智能 计算机视觉与模式识别

摘要

联邦持续学习(FCL)随时间从分布在各客户端上的机密数据集中学习增量任务。本文关注无重演的 FCL,由于缺乏历史任务数据访问权限,其在学习新任务时存在严重的遗忘问题。为解决该问题,我们提出基于提示学习技术的 Fed-CPrompt,以通信高效的方式获取任务特定提示。Fed-CPrompt 引入两个关键组件,即异步提示学习和对比持续损失,分别用于处理 FCL 中的异步任务到达和异构数据分布。大量实验证明了 Fed-CPrompt 在实现 SOTA 无重演 FCL 性能方面的有效性。

关键词

引用

@article{arxiv.2307.04869,
  title  = {Fed-CPrompt: Contrastive Prompt for Rehearsal-Free Federated Continual Learning},
  author = {Gaurav Bagwe and Xiaoyong Yuan and Miao Pan and Lan Zhang},
  journal= {arXiv preprint arXiv:2307.04869},
  year   = {2023}
}

备注

Accepted by FL-ICML 2023