半参数记忆巩固:迈向类脑的深度持续学习
机器学习
2025-04-22 v1 人工智能
计算机视觉与模式识别
摘要
人类和大多数动物天生具备一种独特的能力,能够在时间推移中持续获取新经验并积累世界知识。这种能力被称为持续学习,对深度神经网络(DNNs)适应开放环境中动态变化的世界同样至关重要。然而,DNNs 在按顺序任务训练时,会因灾难性遗忘而丢失先前学到的知识。本研究受人类交互式记忆与学习系统的启发,提出了一种新颖的仿生持续学习框架,该框架融合了半参数记忆与觉醒-睡眠巩固机制。我们的方法首次使深度神经网络能够在真实世界具有挑战性的持续学习场景(例如 ImageNet 上的类别增量学习)中,在新任务上保持高性能的同时保留先验知识。本研究表明,模拟生物智能为深度神经网络实现持续学习能力提供了一条有前景的路径。
引用
@article{arxiv.2504.14727,
title = {Semi-parametric Memory Consolidation: Towards Brain-like Deep Continual Learning},
author = {Geng Liu and Fei Zhu and Rong Feng and Zhiqiang Yi and Shiqi Wang and Gaofeng Meng and Zhaoxiang Zhang},
journal= {arXiv preprint arXiv:2504.14727},
year = {2025}
}