基于模型合并的持续学习中任务特定知识的遗忘
计算机视觉与模式识别
2025-08-01 v1
摘要
本文研究了持续学习 (CL) 背景下的模型线性合并。通过在计算机视觉实验中使用受控视觉线索,我们证明合并在很大程度上保留或增强了共享知识,而未共享的任务特定知识则迅速退化。我们进一步发现,合并来自增量训练过程的模型,其效果始终优于合并并行训练的模型。
引用
@article{arxiv.2507.23311,
title = {Forgetting of task-specific knowledge in model merging-based continual learning},
author = {Timm Hess and Gido M van de Ven and Tinne Tuytelaars},
journal= {arXiv preprint arXiv:2507.23311},
year = {2025}
}