Grow, Assess, Compress:面向内存高效类增量学习的自适应主干网络扩展
机器学习
2026-04-02 v2 计算机视觉与模式识别
摘要
类增量学习 (CIL) 面临根本性挑战:在学习新任务所需的塑性与防止灾难性遗忘所需的稳定性之间保持平衡。虽然扩张式方法通过添加任务特定参数来有效缓解遗忘,但会导致控制不住的架构增长和内存开销。在本文中,我们提出了一种新型动态比例框架,通过循环 "GRow, Assess, ComprEss" (GRACE) 策略自适应管理模型容量。关键的是,我们补充了一种新颖的饱和度评估阶段,用于评估模型容量的利用情况。该评估使框架能够做出明智的决策——要么扩张架构,要么压缩主干网络以生成简化表示,从而防止参数激增。实验结果表明,我们的方法在多个 CIL 基准测试中实现了最先进的性能,同时将内存占用降低最高可达 73%。
引用
@article{arxiv.2603.08426,
title = {Grow, Assess, Compress: Adaptive Backbone Scaling for Memory-Efficient Class Incremental Learning},
author = {Adrian Garcia-Castañeda and Jon Irureta and Jon Imaz and Aizea Lojo},
journal= {arXiv preprint arXiv:2603.08426},
year = {2026}
}