扩散模型引入非样本类增量学习及其扩展
计算机视觉与模式识别
2024-08-07 v1
摘要
非样本类增量学习（NECIL）是指在不保存旧类样本的前提下抵抗灾难性遗忘。先前的方法通常采用简单规则来生成用于重放的特征，导致重放特征与真实特征之间存在较大的分布差距。为解决上述问题，本文提出一种简单而有效的基于扩散模型的特征重放（DiffFR）方法。首先，为缓解固定特征提取器导致的表示能力受限问题，采用基于Siamese的自监督学习获取初始的通用可解释特征。其次，设计扩散模型以生成与真实特征高度相似的类别代表性特征，从而为无样本知识记忆提供有效途径。最后，引入原型校准以引导扩散模型聚焦于学习特征分布的形状，而非整个分布。大量实验表明，我们的DiffFR在平均性能上比当前最先进的NECIL方法提升了3.0%。代码将很快公开。
引用
@article{arxiv.2408.02983,
title = {Diffusion Model Meets Non-Exemplar Class-Incremental Learning and Beyond},
author = {Jichuan Zhang and Yali Li and Xin Liu and Shengjin Wang},
journal= {arXiv preprint arXiv:2408.02983},
year = {2024}
}