CEAT：用于无样本类增量学习的持续扩展与吸收 Transformer
计算机视觉与模式识别
2024-03-13 v2 人工智能
摘要
在现实世界应用中，动态场景要求模型具备持续学习新任务而不遗忘旧知识的能力。经验回放方法存储一部分旧图像用于联合训练。在更严格的隐私保护场景下，存储旧图像变得不可行，从而导致更严重的可塑性 - 稳定性困境和分类器偏差。为应对上述挑战，我们提出了一种名为持续扩展与吸收 Transformer (CEAT) 的新架构。该模型通过与冻结的前序参数并行扩展融合层来学习新知识。任务结束后，我们将扩展的参数无损地吸收回主干网络，以确保参数数量保持不变。为提高模型的学习能力，我们设计了一种新的原型对比损失，以减少特征空间中新旧类之间的重叠。此外，为解决分类器对新类的偏差问题，我们提出了一种生成伪特征的新方法来校正分类器。我们在三个标准的无样本类增量学习 (NECIL) 基准上对我们的方法进行了实验。大量实验表明，与先前的工作相比，我们的模型取得了显著改进，在 CIFAR-100、TinyImageNet 和 ImageNet-Subset 上分别实现了 5.38%、5.20% 和 4.92% 的提升。
引用
@article{arxiv.2403.06670,
title = {CEAT: Continual Expansion and Absorption Transformer for Non-Exemplar Class-Incremental Learning},
author = {Xinyuan Gao and Songlin Dong and Yuhang He and Xing Wei and Yihong Gong},
journal= {arXiv preprint arXiv:2403.06670},
year = {2024}
}