谱塌缩驱动深度持续学习中的可塑性丧失
机器学习
2025-09-30 v2 人工智能
摘要
我们研究了为什么深度神经网络在深度持续学习中会丧失可塑性，在未重新初始化参数的情况下无法学习新任务。我们表明，这种失败之前发生了新任务初始化时的 Hessian 谱塌缩，其中有意义的曲率方向消失，梯度下降变得无效。为了表征成功训练的必要条件，我们引入了 -可训练性的概念，并表明当前的可塑性保持算法可以统一在该框架下。针对谱塌缩问题，我们讨论了 Hessian 的 Kronecker 分解近似，这促使了两种正则化增强：维持高有效特征秩和应用 L2 惩罚。在持续监督学习和强化学习任务上的实验证实，结合这两种正则化方法可以有效地保持可塑性。
引用
@article{arxiv.2509.22335,
title = {Spectral Collapse Drives Loss of Plasticity in Deep Continual Learning},
author = {Naicheng He and Kaicheng Guo and Arjun Prakash and Saket Tiwari and Ruo Yu Tao and Tyrone Serapio and Amy Greenwald and George Konidaris},
journal= {arXiv preprint arXiv:2509.22335},
year = {2025}
}