基于双原型自增强与精炼的无样本在线类增量持续学习
计算机视觉与模式识别
2023-12-18 v3
摘要
本文研究了一个新颖、实用但具挑战性的问题,称为无样本在线类增量持续学习(NO-CL),其目标是在不缓冲数据样本的情况下保持基类可分辨性,并在单次遍历(即在线)数据流中高效连续学习新类。该任务的挑战主要有两方面:(1) 由于无可用于回放的先前样本,基类和新类均遭受严重的灾难性遗忘。(2) 由于在线数据只能被观测一次,无法充分重新训练整个模型,例如通过原型对齐或特征蒸馏重新校准决策边界。本文中,我们针对NO-CL问题提出一种新颖的双原型自增强与精炼方法(DSR),其包含两种策略:1) 双类原型:利用常规原型和高维原型来使用预训练信息并获得鲁棒的准正交表示,而非使用样本缓冲,以实现隐私保护和内存缩减。2) 自增强与精炼:我们不直接更新整个网络,而是基于自增强常规原型,通过双层优化问题用额外的投影模块交替优化高维原型。大量实验证明了所提DSR在NO-CL中的有效性与优越性。
引用
@article{arxiv.2303.10891,
title = {Non-Exemplar Online Class-incremental Continual Learning via Dual-prototype Self-augment and Refinement},
author = {Fushuo Huo and Wenchao Xu and Jingcai Guo and Haozhao Wang and Yunfeng Fan and Song Guo},
journal= {arXiv preprint arXiv:2303.10891},
year = {2023}
}