用于稳定循环脉冲神经网络中脉冲时序依赖可塑性的基于睡眠的稳态正则化
神经与进化计算
2026-01-14 v1 机器学习
摘要
脉冲时序依赖可塑性（STDP）为脉冲神经网络（SNN）提供了一种生物学上合理的学习机制；然而，在具有循环连接的架构中，Hebbian 权重更新存在病态权重动力学问题：无界增长、灾难性遗忘和表征多样性丧失。我们提出了一种受突触稳态假说启发的神经形态正则化方案：在周期性的离线阶段中，外部输入被抑制，突触权重经历向稳态基线的随机衰减，自发活动实现记忆巩固。我们证明，这种睡眠-觉醒周期在保留已学结构的同时防止了权重饱和。实验表明，在我们的 STDP-SNN 模型中，低至中等的睡眠时长（训练的 10-20%）可提高在 MNIST 类基准上的稳定性，且无需任何特定于数据的超参数调优。相比之下，相同的睡眠干预对代理梯度脉冲神经网络（SG-SNN）未产生可衡量的益处。总而言之，这些结果表明，周期性的、基于睡眠的重新归一化可能是稳定神经形态系统中局部 Hebbian 学习的基本机制，同时也表明在将此类协议与现有的基于梯度的优化方法集成时需要特别谨慎。
引用
@article{arxiv.2601.08447,
title = {Sleep-Based Homeostatic Regularization for Stabilizing Spike-Timing-Dependent Plasticity in Recurrent Spiking Neural Networks},
author = {Andreas Massey and Aliaksandr Hubin and Stefano Nichele and Solve Sæbø},
journal= {arXiv preprint arXiv:2601.08447},
year = {2026}
}