追忆过往：基于类比提示的增量学习
计算机视觉与模式识别
2023-03-27 v1 机器学习
摘要
尽管无数据增量学习方法对内存友好，但在缺乏历史数据的情况下，准确估计并抵消表示偏移是一项挑战。本文受人类类比能力启发，提出了一种新颖的增量学习方法来解决这一棘手问题。具体而言，我们设计了一种类比生成机制，通过提示调优将新数据重新映射到旧类别。该方法仅利用新类样本，即可在旧模型上模拟目标旧类的特征分布。所学得的提示进一步用于估计并抵消由微调引起的历史原型表示偏移。所提方法在类增量与域增量学习设置下的四个增量学习基准上均取得了新的最先进性能。它仅保存每类的特征原型，便持续优于数据回放方法。在 Core50 基准上，它通过联合训练几乎达到了经验上界。代码将发布于 \url{https://github.com/ZhihengCV/A-Prompts}。
引用
@article{arxiv.2303.13898,
title = {Remind of the Past: Incremental Learning with Analogical Prompts},
author = {Zhiheng Ma and Xiaopeng Hong and Beinan Liu and Yabin Wang and Pinyue Guo and Huiyun Li},
journal= {arXiv preprint arXiv:2303.13898},
year = {2023}
}