用于类增量学习的无记忆生成回放
计算机视觉与模式识别
2021-09-02 v1
摘要
基于正则化的方法有利于缓解类增量学习中的灾难性遗忘问题。在缺少旧任务图像的情况下，它们通常假设若分类器对新图像产生相似输出，则旧知识被良好保留。本文中，我们发现其有效性很大程度上取决于旧类别的性质：它们在彼此易区分的类别上表现良好，但在更细粒度的类别（如男孩与女孩）上可能失效。本质上，此类方法将新数据投影到全连接层中对应旧类别的权重向量所张成的特征空间上。所得投影在细粒度旧类别上会相似，因此新分类器将逐渐丧失对这些类别的判别能力。为解决此问题，我们提出一种无记忆生成回放策略，通过直接从旧分类器生成具代表性的旧图像，并与新数据结合训练新分类器，以保留细粒度旧类别特征。为解决生成样本的均质化问题，我们还提出一种多样性损失，最大化生成样本间的 Kullback Leibler（KL）散度。我们的方法最好地与先前被证明对易区分旧类别有效的基于正则化的方法互补。我们在 CUB-200-2011、Caltech-101、CIFAR-100 和 Tiny ImageNet 上验证了上述设计与见解，并表明我们的策略以明显优势超越现有无记忆方法。代码见 https://github.com/xmengxin/MFGR
引用
@article{arxiv.2109.00328,
title = {Memory-Free Generative Replay For Class-Incremental Learning},
author = {Xiaomeng Xin and Yiran Zhong and Yunzhong Hou and Jinjun Wang and Liang Zheng},
journal= {arXiv preprint arXiv:2109.00328},
year = {2021}
}