基于忘却曲线的 FOREVER：面向大语言模型持续学习的记忆回放

大语言模型的持续学习旨在实现顺序知识获取而不发生灾难性遗忘。记忆回放方法因其实用性和有效性而广泛使用，但大多数方法依赖固定的、基于步骤的启发式方法，往往与模型实际学习进度不一致，因为相同的训练步骤可能导致参数的不同程度的变化。受近期发现大语言模型遗忘类似于Ebbinghaus人类遗忘曲线的启发，我们提出了FOREVER（FORgEtting curVe-inspired mEmory Replay），一种新颖的持续学习框架，将回放时间表与模型中心化的时间概念对齐。FOREVER通过优化器更新幅度的大小来定义模型时间，使忘却曲线启发的回放间隔与模型的内部演化相匹配，而非原始训练步骤。建立在此基础上的方法，FOREVER采用基于忘却曲线的回放调度器以确定何时回放，并引入强度感知的正则化机制以自适应控制回放方式。在三个持续学习基准测试中进行的大规模实验表明，FOREVER在缓解灾难性遗忘方面始终表现出色。