非平衡随机动力学：统一的洞察与重复学习框架——Kramers逃逸方法用于持续学习

人工神经网络的持续学习根本受限于稳定性—塑性困境：致保留先前知识的系统倾向于抗拒获取新知识，反之亦然。现有方法，最著名者为弹性权重整合（EWC），是经验性地解决此问题，却缺乏对塑性为何随任务累积而崩溃的物理解释。此外，关于突然洞察与通过重复练习实现的渐进技能掌握，尚缺乏统一的理论描述。本文表明，两者都可在非平衡统计物理中找到统一的解决方案。我们将学习系统的状态建模为受Langevin动力学驱动的粒子，其在双井势能景观上演化，噪声幅度由随时间变化的有效温度 $T(t)$ 控制。概率密度满足Fokker-Planck方程，系统在各亚稳态之间的转移由Kramers逃逸速率 $k = (\omega_0\omega_b/2\pi)\,e^{-\Delta E/T}$ 决定。我们的两个贡献：第一，我们将EWC惩罚项识别为一个能垒，其高度随累积任务数线性增长，导致转移速率在分析和数值实验中呈指数衰减。第二，我们表明洞察与重复学习分别对应于Fokker-Planck方程中的两种不同温度协议：洞察事件产生 $T(t)$ 的瞬时尖峰，驱动快速跨越能垒；重复练习则在略高于常温但固定的温度下进行，通过持续的随机扩散实现转移。这些结果建立了塑性及其失效的物理学依据框架，为人工智能中的自适应噪声方案提供原则性设计准则。