中文

DRL:面向类别增量学习的判别表示学习与平行适配器

计算机视觉与模式识别 2025-10-15 v1

摘要

随着预训练模型(PTM)在非重hears rehearsal 类别增量学习(CIL)研究中的卓越表现,不断取得显著进展。然而,由于模型复杂度日益增大、增量学习期间表示迁移不平滑以及阶段性子问题优化与全局推断之间的不一致性,仍面临巨大挑战。本文提出判别表示学习(DRL)框架以具体解决这些挑战。为实现有效且高效的增量学习,DRL的网络称为增量平行适配器(IPA)网络,基于PTM,并通过在每个增量阶段学习轻量级适配器来逐步扩大模型,参数学习开销小。适配器负责适应新类别,能够通过在它们之间通过transfer gate进行平行连接来继承并传递当前模型的表示能力。结果是,此设计保证了不同增量阶段之间平滑的表示迁移。此外,为缓解不一致性并实现跨增量阶段的可比特征表示,我们设计了解耦锚超视(DAS),其将正负样本的约束分别与虚拟锚点进行比较。这种解耦促进了判别性表示学习并对齐不同阶段学习的特征空间,从而缩小基于子集数据的阶段性局部优化与跨所有类别的全局推断之间的差距。在六个基准测试上的大量实验表明,DRL在整个CIL期间始终优于其他最先进的方法,同时在训练和推理阶段保持高效。

关键词

引用

@article{arxiv.2510.12107,
  title  = {DRL: Discriminative Representation Learning with Parallel Adapters for Class Incremental Learning},
  author = {Jiawei Zhan and Jun Liu and Jinlong Peng and Xiaochen Chen and Bin-Bin Gao and Yong Liu and Chengjie Wang},
  journal= {arXiv preprint arXiv:2510.12107},
  year   = {2025}
}

备注

13 pages, 7 figures