无范例在线持续学习
计算机视觉与模式识别
2022-02-14 v1
摘要
针对真实场景,在线持续学习旨在从顺序可用的数据中学习新任务,条件是每个数据仅被学习器观察一次。尽管近期工作通过存储部分已学任务数据作为范例进行知识回放取得了显著成就,但其性能高度依赖于存储范例的规模,而存储消耗是持续学习中的一项重要约束。此外,由于隐私问题,存储范例对某些应用而言可能并不可行。在本工作中,我们提出一种新颖的无范例方法,利用最近类均值(NCM)分类器,其中类均值通过在线均值更新准则在迄今为止所见全部数据的训练阶段进行估计。我们聚焦于图像分类任务,并在包括 CIFAR-100 和 Food-1k 在内的基准数据集上进行了大量实验。结果表明,我们的方法在不使用任何范例的情况下,以较大优势优于标准协议(每类 20 个范例)下最先进的基于范例的方法,并且即使在更大范例规模(每类 100 个范例)下也能取得有竞争力的性能。
引用
@article{arxiv.2202.05491,
title = {Exemplar-free Online Continual Learning},
author = {Jiangpeng He and Fengqing Zhu},
journal= {arXiv preprint arXiv:2202.05491},
year = {2022}
}
备注
Submitted for review