记得即重玩 (R2R)：基于生成式重放的无监督持续学习高效框架
计算机视觉与模式识别
2025-05-12 v2 人工智能
机器学习
摘要
持续学习涉及从新数据中逐步获取知识，同时保留先前获取的知识，从而缓解神经网络中的“灾难性遗忘”。本文提出一种新颖的、基于生成式重放的无监督持续学习框架，称为“记得即重玩 (R2R)”。该 R2R 架构通过聚类级别的不确定性驱动反馈机制和 VLM 驱动的生成式重放模块，在无标签数据与合成标签数据之间实现高效平衡。不同于依赖预训练模型和伪标签的传统记忆缓冲区方法，R2R 框架无需任何先验训练。它利用无标签数据的视觉特征，并通过基于聚类的不确定性估计结合动态阈值进行持续适应。同时，生成式重放机制结合 DeepSeek-R1 强化的 CLIP VLM，产生能代表过去经验的标记合成数据，模拟生物视觉思维中“重放记忆以记得并应对新情境”的过程。在 CIFAR-10、CIFAR-100、CINIC-10、SVHN 和 TinyImageNet 数据集上进行了广泛实验分析。我们的方法在知识保留方面取得显著成绩，分别达到 98.13%、73.06%、93.41%、95.18%、59.74%，超越最新技术性能提升 4.36%。
引用
@article{arxiv.2505.04787,
title = {Replay to Remember (R2R): An Efficient Uncertainty-driven Unsupervised Continual Learning Framework Using Generative Replay},
author = {Sriram Mandalika and Harsha Vardhan and Athira Nambiar},
journal= {arXiv preprint arXiv:2505.04787},
year = {2025}
}
备注
Submitted to the 28th European Conference on Artificial Intelligence (ECAI-2025)