通过自适应线性注入保持持续学习中的塑性
机器学习
2025-05-15 v1 人工智能
摘要
深度神经网络中塑性的丧失是模型逐渐减少增量学习能力的现象，已被识别为非平稳问题环境中学习的关键障碍。最近的研究表明，深度线性网络对塑性丧失具有较强韧性。基于此观察，我们提出自适应线性化 (AdaLin) 方法，通过动态调整每个神经元的激活函数来缓解塑性丧失。不同于依赖正则化或定期重置的先前方法，AdaLin 为每个神经元配备可学习参数和门控机制，根据梯度流在激活函数中注入线性成分。这种自适应调制确保足够的梯度信号，能够在不引入额外超参数或要求明确任务边界的情况下维持持续学习。当与常规激活函数如 ReLU、Tanh 和 GeLU 配合使用时，我们在包括随机标签和排列 MNIST、随机标签和混洗 CIFAR-10、类别分割 CIFAR-100 等标准基准测试上显示 AdaLin 可显著提升性能。进一步地，在 CIFAR-100 上的类别增量学习中采用 ResNet-18 backbone，以及在 off-policy 强化学习智能体中缓解塑性丧失方面，AdaLin 的有效性亦得到验证。我们进行了一组系统性消融实验，表明神经元级的自适应对良好性能至关重要，并分析了网络中可能与塑性丧失相关的多项指标。
引用
@article{arxiv.2505.09486,
title = {Preserving Plasticity in Continual Learning with Adaptive Linearity Injection},
author = {Seyed Roozbeh Razavi Rohani and Khashayar Khajavi and Wesley Chung and Mo Chen and Sharan Vaswani},
journal= {arXiv preprint arXiv:2505.09486},
year = {2025}
}
备注
Accepted in 4th Conference on Lifelong Learning Agents (CoLLAs), 2025