中文

基于无回放梯度投影的任务无关联邦持续学习

机器学习 2025-11-12 v2

摘要

联邦持续学习(FCL)使分布式客户端设备能够从跨多样且不断演化的任务的流数据中学习。持续学习的主要挑战——灾难性遗忘,在去中心化设置中因数据异构性、受限通信和隐私问题而加剧。我们提出了具有任务身份预测的联邦基于梯度投影的持续学习(FedProTIP),这是一种新颖的FCL框架,通过将客户端更新投影到由全局模型先前学习的表示所张成子空间的正交补上,来缓解遗忘。该投影减少了对先前任务的干扰,并在任务序列中保持了性能。为了进一步应对任务无关推理的挑战,我们整合了一种轻量级机制,利用来自先前任务的核心基来预测任务身份,并动态调整全局模型的输出。在标准FCL基准上的大量实验表明,FedProTIP在平均准确率上显著优于现有最先进方法,特别是在任务身份先验未知的设置中。

关键词

引用

@article{arxiv.2509.21606,
  title  = {Task-Agnostic Federated Continual Learning via Replay-Free Gradient Projection},
  author = {Seohyeon Cha and Huancheng Chen and Haris Vikalo},
  journal= {arXiv preprint arXiv:2509.21606},
  year   = {2025}
}