一种通用适配器:面向步骤不平衡类别增量学习的统一表征
计算机视觉与模式识别
2026-03-12 v1 机器学习
摘要
类别增量学习(CIL)旨在随时间获取新类别,同时保留先前知识,但大多数设置和方法假设任务流是平衡的。在实际情况下,每个任务的类别数常常有显著差异。我们称之为步骤不平衡(step imbalance),其中包含更多类别的大型任务主导学习,而小型任务则注入不稳定的更新。现有的CIL方法假设任务是平衡的,因此对所有任务统一处理,导致不平衡的更新,影响整体学习性能。为解决这一挑战,我们提出了One-A(One Adapter)框架——一个统一且不平衡感知的框架,通过递增合并任务更新到单个适配器中,保持常数的推理成本。One-A执行非对称子空间对齐,以保留来自大型任务学习的主导子空间,同时将信息较少的更新限制在这些子空间内。信息自适应加权在基座适配器和新适配器之间平衡贡献,方向门控机制在每个奇异方向上选择性地融合更新,保持主方向上的稳定性和尾部方向上的塑性。在多个基准测试和步骤不平衡流上,One-A在显著低的推理开销下实现了竞争性的准确率,表明单个非对称融合的适配器既能适应动态任务大小,又能在部署时保持高效。
引用
@article{arxiv.2603.10237,
title = {One Adapter for All: Towards Unified Representation in Step-Imbalanced Class-Incremental Learning},
author = {Xiaoyan Zhang and Jiangpeng He},
journal= {arXiv preprint arXiv:2603.10237},
year = {2026}
}
备注
Code is available at https://github.com/xiaoyanzhang1/One-A