学习想象：利用无标签数据多样化记忆以用于增量学习
计算机视觉与模式识别
2022-04-20 v1
摘要
深度神经网络（DNN）在增量学习时会遭受灾难性遗忘，这极大限制了其应用。尽管保留每类任务的少量样本（称为“范例”）可一定程度缓解遗忘，现有方法仍受限于范例数量过少，因为这些范例太少而无法承载足够的任务特定知识，因而遗忘依旧存在。为克服该问题，我们提出参照无标签数据中丰富的语义无关信息，对给定范例“想象”出多样化的对应样本。具体而言，我们开发了可学习的特征生成器，基于范例的语义信息与无标签数据的语义无关信息，通过自适应生成范例的多样化对应样本来实现范例多样化。我们引入语义对比学习以强制生成样本与范例语义一致，并执行语义解耦对比学习以鼓励生成样本的多样性。这些多样化生成样本能在学习新任务时有效防止DNN遗忘。我们的方法不带来任何额外推理开销，并在CIFAR-100与ImageNet-Subset两个基准上以明显优势超越最先进方法。
引用
@article{arxiv.2204.08932,
title = {Learning to Imagine: Diversify Memory for Incremental Learning using Unlabeled Data},
author = {Yu-Ming Tang and Yi-Xing Peng and Wei-Shi Zheng},
journal= {arXiv preprint arXiv:2204.08932},
year = {2022}
}
备注
Accepted to CVPR2022