基于提示微调引导原型的无重演持续学习
机器学习
2023-11-14 v3 人工智能
计算机视觉与模式识别
摘要
在持续学习的背景下，原型——作为具有代表性的类别嵌入——在节省内存和缓解灾难性遗忘方面具有优势。然而，语义漂移和原型干扰相关的挑战仍然存在。在本研究中，我们引入了对比原型提示（CPP）方法。通过任务特定的提示微调（prompt-tuning），并以对比学习目标为支撑，我们有效解决了上述两个挑战。我们在四个具有挑战性的类增量基准上的评估表明，CPP 相比最先进的方法实现了 4% 至 6% 的显著提升。重要的是，CPP 无需重演缓冲区（rehearsal buffer）运行，并缩小了持续学习与离线联合学习之间的性能差异，为基于 Transformer 的持续学习系统提出了一种创新方案。
引用
@article{arxiv.2303.09447,
title = {Steering Prototypes with Prompt-tuning for Rehearsal-free Continual Learning},
author = {Zhuowei Li and Long Zhao and Zizhao Zhang and Han Zhang and Di Liu and Ting Liu and Dimitris N. Metaxas},
journal= {arXiv preprint arXiv:2303.09447},
year = {2023}
}
备注
Accept to WACV 2024. Code is available at https://github.com/LzVv123456/Contrastive-Prototypical-Prompt