彩虹记忆:基于多样样本记忆的持续学习
计算机视觉与模式识别
2021-04-01 v1 机器学习
摘要
持续学习是 AI 模型的一种现实学习场景。然而,主流的持续学习场景假设以互不相交的类别集合作为任务,不够现实且相当人为设定。相反,我们关注“模糊”任务边界,即任务间共享类别,更为现实且实用。为解决此类任务,我们论证了情景记忆中样本多样性的重要性。为增强记忆中样本的多样性,我们提出一种基于逐样本分类不确定性与数据增强的新型记忆管理策略,称为彩虹记忆(RM)。在 MNIST、CIFAR10、CIFAR100 与 ImageNet 数据集上的大量实证验证表明,尽管方法简单,所提方法在模糊持续学习设定中显著提升了准确率,以大幅优势超越 state of the arts。代码与数据划分将发布于 https://github.com/clovaai/rainbow-memory。
引用
@article{arxiv.2103.17230,
title = {Rainbow Memory: Continual Learning with a Memory of Diverse Samples},
author = {Jihwan Bang and Heesu Kim and YoungJoon Yoo and Jung-Woo Ha and Jonghyun Choi},
journal= {arXiv preprint arXiv:2103.17230},
year = {2021}
}
备注
Accepted paper at CVPR 2021