融合过去、现在与未来：一种自监督的类增量学习方法
计算机视觉与模式识别
2023-11-16 v1 人工智能
摘要
类增量学习（CIL）旨在处理新类数据连续且顺序出现的场景。模型应识别顺序出现的新类，同时缓解灾难性遗忘。在自监督方式下，由于没有任何类标签，避免新类与旧类的特征嵌入空间之间的冲突变得更具挑战性。针对该问题，我们提出了一种自监督CIL框架CPPF，意为融合过去、现在与未来（Combining Past, Present and Future）。具体而言，CPPF由原型聚类模块（PC）、嵌入空间保留模块（ESR）和多教师蒸馏模块（MTD）组成。1）PC和ESR模块分别在原型层面和特征层面为后续阶段保留嵌入空间，以为未来学习的知识做准备。2）MTD模块在不受过去知识干扰的情况下维持当前阶段的表示。其中一个教师网络保留过去阶段的表示，另一个教师网络将当前阶段的关系信息蒸馏给学生网络。在CIFAR100和ImageNet100数据集上的大量实验表明，我们提出的方法提升了自监督类增量学习的性能。我们将在近期发布代码。
引用
@article{arxiv.2311.08764,
title = {Combining Past, Present and Future: A Self-Supervised Approach for Class Incremental Learning},
author = {Xiaoshuang Chen and Zhongyi Sun and Ke Yan and Shouhong Ding and Hongtao Lu},
journal= {arXiv preprint arXiv:2311.08764},
year = {2023}
}