CHEEM：通过复用、新建、适配与跳过进行持续学习——一种分层探索-利用方法
计算机视觉与模式识别
2026-04-02 v5 机器学习
摘要
为有效应对真实世界动态环境的复杂性，持续学习必须在不遭受对先前知识灾难性遗忘的前提下，从性质各异的任务流中增量地获取、更新和积累知识。尽管这种能力是人类认知的本能，但对现代深度学习系统而言仍是一项重大挑战。该挑战的核心在于稳定性-可塑性困境：需要基于任务复杂度和协同性，平衡利用先验知识、整合新信息以及自适应地分配模型容量。本文提出了一种新颖的无范例类增量持续学习（ExfCCL）框架，通过分层探索-利用（HEE）方法解决这些问题。我们方法的核心是一个HEE引导的高效神经架构搜索（HEE-NAS），其通过复用（reuse）、新建（new）、适配（adapt）和跳过（skip）四种基本操作实现可学习自适应骨干网络，从而充当跨流式任务动态更新所选组件的内部记忆。为解决ExfCCL中的任务ID推断问题，我们利用了先前工作中提出的任务质心外部记忆。我们将该方法称为CHEEM（Continual Hierarchical-Exploration-Exploitation Memory，持续分层探索-利用记忆）。CHEEM在具有挑战性的MTIL和VDD基准上使用Tiny和Base Vision Transformers以及提出的整体优值（FoM）度量进行了评估。它显著优于最先进的基于提示的持续学习方法，并接近全微调上限。此外，它以语义上有意义的方式学习针对各个任务的自适应模型结构。我们的代码可在 https://github.com/savadikarc/cheem 获取。
引用
@article{arxiv.2303.08250,
title = {CHEEM: Continual Learning by Reuse, New, Adapt and Skip -- A Hierarchical Exploration-Exploitation Approach},
author = {Chinmay Savadikar and Michelle Dai and Tianfu Wu},
journal= {arXiv preprint arXiv:2303.08250},
year = {2026}
}
备注
CVPR 2026