合并与界限：面向类递增学习的权重直接操作
计算机视觉与模式识别
2025-11-27 v1 人工智能
机器学习
摘要
我们提出了一种新颖的训练方法，称为合并-界限（Merge-and-Bound, M&B），用于类递增学习（Class Incremental Learning, CIL），直接在参数空间中操作模型权重进行优化。我们的算法包含两种类型的权重合并：跨任务权重合并与任务内权重合并。跨任务权重合并通过对所有前序阶段的模型权重进行平均来统一先前模型；而任务内权重合并则通过组合当前阶段的模型参数来促进当前任务的学习。为确保权重合并的可靠性，我们还提出了受限更新技术，旨在以最小的累积更新优化目标模型，保持来自以前任务的知识；该策略表明有可能有效地获得接近旧模型的新模型，从而降低灾难性遗忘。M&B 可无缝集成到现有的CIL方法中，无需修改架构组件或修改学习目标。我们在标准CIL基准测试上进行了广泛评估，显示出色于当前最先进的方法。
引用
@article{arxiv.2511.21490,
title = {Merge and Bound: Direct Manipulations on Weights for Class Incremental Learning},
author = {Taehoon Kim and Donghwan Jang and Bohyung Han},
journal= {arXiv preprint arXiv:2511.21490},
year = {2025}
}