PROL：基于提示在流式数据上无重hearsal的持续学习
机器学习
2025-07-17 v1 人工智能
计算机视觉与模式识别
摘要
在在线持续学习（OCL）中，数据只能查看一次，这一数据隐私约束 complicates 持续性忘记问题。当前 SOTA 方法的常见做法是使用来自以前类别的记忆样本或特征进行重放。另一方面，基于提示的方法在持续学习中表现优异，但需要增加可训练参数的数量。第一种方法可能无法在实际中应用 due to data openness policy，而第二种方法则存在与流式数据相关的吞吐量问题。本研究提出了一种新的基于提示的方法用于在线持续学习，包含 4 个主要组件：（1）作为通用知识的单一轻量级提示生成器，（2）作为特定知识的可训练尺度-偏移量（scaler-and-shifter），（3）预训练模型（PTM）通用性保持，以及（4）硬-软更新机制。我们的方法在 CIFAR100、ImageNet-R、ImageNet-A 和 CUB 数据集上性能显著高于当前 SOTA。我们的复杂性分析显示，该方法需要较少的参数，同时实现适中的训练时间、推理时间和吞吐量。为了进一步研究，本文提供了方法的源代码链接 https://github.com/anwarmaxsum/PROL。
引用
@article{arxiv.2507.12305,
title = {PROL : Rehearsal Free Continual Learning in Streaming Data via Prompt Online Learning},
author = {M. Anwar Ma'sum and Mahardhika Pratama and Savitha Ramasamy and Lin Liu and Habibullah Habibullah and Ryszard Kowalczyk},
journal= {arXiv preprint arXiv:2507.12305},
year = {2025}
}
备注
ICCV 2025