基于网络分裂与合并及 Dreaming-Meta-Weighted 模型融合的持续学习
计算机视觉与模式识别
2023-12-13 v1
摘要
在持续学习场景中，平衡网络的稳定性与可塑性是一项挑战，因为稳定性受模型更新的影响而受损，而可塑性却从中受益。现有工作通常更关注稳定性，并限制后续任务的学习可塑性，以避免对已学知识产生灾难性遗忘。与此不同，我们提出了一种名为 Split2MetaFusion 的持续学习方法，该方法通过采用两阶段策略（分裂与元加权融合）来实现更好的权衡。在该策略中，一个具有更好稳定性的慢模型和一个具有更好可塑性的快模型在分裂阶段被依次学习。随后，通过以自适应方式融合这两个模型，同时保持了稳定性和可塑性。为此，我们为慢学习过程设计了一种名为 Task-Preferred Null Space Projector (TPNSP) 的优化器，以缩小融合差距。为了实现更好的模型融合，我们进一步设计了 Dreaming-Meta-Weighted 融合策略，以更好地同时保持新旧知识，且无需使用先前的数据集。本工作报告的实验结果与分析证明了所提方法在维持网络稳定性并保持其可塑性方面的优越性。我们的代码将予以发布。
引用
@article{arxiv.2312.07082,
title = {Continual Learning through Networks Splitting and Merging with Dreaming-Meta-Weighted Model Fusion},
author = {Yi Sun and Xin Xu and Jian Li and Guanglei Xie and Yifei Shi and Qiang Fang},
journal= {arXiv preprint arXiv:2312.07082},
year = {2023}
}