IP²-RSNN：双层内在塑性实现循环脉冲神经网络的学习-学习
神经与进化计算
2025-09-29 v5 机器学习
摘要
学习-学习（L2L），即在相似任务上实现逐渐加快的学习，是神经科学和人工智能的基本问题。然而，其神经基础仍不为人所知，因为大多数研究强调由突触塑性引起的神经群体动力学，而忽略了由内在神经塑性驱动的适应，这些适应无法由点神经元模型捕获。为此，我们发展了一个具有双层内在塑性（IP²-RSNN）的循环脉冲神经网络。首先，基于任务需求，慢速的元内在塑性确定哪些内在神经属性是可学习的，一旦配置，将在后续任务学习中保持不变。其次，快速的内在塑性在每个任务内微调这些可学习属性。我们的结果表明，提出的双层内在塑性在RSNN中实现L2L发挥关键作用，并表明IP²-RSNN优于点神经元循环神经网络和自注意力模型。此外，我们的多尺度神经动力学分析揭示，双层内在塑性在L2L期间对任务类型特定的适应在神经元和网络水平至关重要，而这些适应无法由点神经元模型捕获。我们的结果表明，内在塑性在L2L中提供了显著的计算优势，为脑启发的深度学习模型和算法设计提供了启发。
引用
@article{arxiv.2501.14539,
title = {IP$^{2}$-RSNN: Bi-level Intrinsic Plasticity Enables Learning-to-learn in Recurrent Spiking Neural Networks},
author = {Yingchao Yu and Yaochu Jin and Kuangrong Hao and Yuchen Xiao and Yuping Yan and Hengjie Yu and Zeqi Zheng and Wenxuan Pan},
journal= {arXiv preprint arXiv:2501.14539},
year = {2025}
}
备注
17 pages, 10 figures