梦中学习：结构化生成式梦境用于持续学习
机器学习
2026-03-03 v1 人工智能
摘要
持续学习需要在塑性与稳定性之间进行平衡，同时缓解灾难性遗忘。灵感来自人类梦境作为内部模拟和知识重构机制，我们引入梦中学习（Dream2Learn, D2L），该框架使模型能够从自身内部表征中自主生成结构化合成经验，并用于自我改进。与生成式重放不同，D2L使分类器创建新颖且在语义上具有区分性的梦中类别，这些类别与所学知识保持一致，但不对应于以前观察到的数据。通过软提示优化驱动分类器本身，冻结扩散模型生成这些梦中样本。生成的数据不用于取代记忆，而是用于扩展和重新组织表征空间，有效地允许网络对内部合成的概念进行自我训练。通过将梦中类别整合到持续训练中，D2L主动结构化潜在特征，以支持前向知识迁移和对未来任务的适应。这种前瞄性自我训练机制类似于睡眠在记忆巩固和重组中的作用，将内部模拟转化为改进泛化能力的工具。在Mini-ImageNet、FG-ImageNet和ImageNet-R上的实验表明，D2L consistently优于强大的重放基线，实现了正向迁移，证明了其通过内部生成的训练信号来增强适应性的能力。
引用
@article{arxiv.2603.01935,
title = {Dream2Learn: Structured Generative Dreaming for Continual Learning},
author = {Salvatore Calcagno and Matteo Pennisi and Federica Proietto Salanitri and Amelia Sorrenti and Simone Palazzo and Concetto Spampinato and Giovanni Bellitto},
journal= {arXiv preprint arXiv:2603.01935},
year = {2026}
}