SEDEG：面向小内存类增量学习的解码器与编码器通用性序列增强
计算机视觉与模式识别
2026-03-16 v1 人工智能
摘要
在增量学习中，增强知识的通用性对于适应动态数据输入至关重要。它可以发展出泛化的表示或更平衡的决策边界，防止长期知识随时间退化，从而缓解灾难性遗忘。一些新兴的增量学习方法采用编码器-解码器架构，并取得了令人鼓舞的成果。在编码器-解码器架构中，提高编码器和解码器的泛化能力至关重要，因为这有助于保留先前学到的知识，同时确保对新多样化数据输入的适应性和鲁棒性。然而，许多现有的持续学习方法仅侧重于增强这两个组件中的一个，这限制了它们缓解灾难性遗忘的效果。并且，这些方法在小内存场景下表现更差，因为此时只能存储有限数量的历史样本。为了缓解这一局限，我们引入了 SEDEG，一个针对视觉 Transformer（ViT）的两阶段训练框架，专注于序列化地提升解码器和编码器的通用性。首先，SEDEG 通过特征增强训练一个集成编码器，以学习广义表示，随后增强解码器的通用性并平衡分类器。下一阶段涉及使用知识蒸馏（KD）策略来压缩集成编码器，并开发一个新的、更通用的编码器。这包括使用平衡的 KD 方法和特征 KD 进行有效的知识迁移。在三个基准数据集上的大量实验表明 SEDEG 具有优越的性能，消融研究证实了其组件的有效性。代码可在 https://github.com/ShaolingPu/CIL 获取。
引用
@article{arxiv.2508.12932,
title = {SEDEG:Sequential Enhancement of Decoder and Encoder's Generality for Class Incremental Learning with Small Memory},
author = {Hongyang Chen and Shaoling Pu and Lingyu Zheng and Zhongwu Sun},
journal= {arXiv preprint arXiv:2508.12932},
year = {2026}
}
备注
Accepted by ICONIP2025