面向持续脉冲神经网络的局部时间尺度门控
机器学习
2025-10-16 v1
摘要
脉冲神经网络（SNN）在神经器件上承诺能效人工智能，但在需要快速适应和长期记忆的任务中存在挑战，尤其是在持续学习场景中。我们提出了局部时间尺度门控（LT-Gate），一种结合双时间常数动力学和自适应门控机制的神经元模型。每个脉冲神经元并行跟踪快速时刻和慢时刻的信息，一个学习到的门控机制局部地调整两者的影响。这一设计使单个神经元能够在保留慢时上下文信息的同时响应快速信号，从而解决稳定性-塑性困境。我们进一步引入了基于方差跟踪的正则化，以稳定放电活动，灵感来自生物学的自主调节。经验上，LT-Gate 在顺序学习任务中实现了显著提升的准确率和保持率：在一个具有挑战性的时序分类基准测试中，它实现了约 51% 的最终准确率，而最新近的赫布鲁斯持续学习基线实现约 46% 的准确率，其他先前方法更低。不同于需要外部回放或昂贵正交化的方法，LT-Gate 采用局部更新，完全兼容神经器件。在具体而言，它利用英特尔 Loihi 芯片（具有不同衰减率的多个突触痕迹）实现片上学习。我们的结果表明，多时间尺度门控在 SNN 的持续学习中显著提升了性能，缩小了脉冲神经网络与常规深度网络在终身学习任务中的差距。
引用
@article{arxiv.2510.12843,
title = {Local Timescale Gates for Timescale-Robust Continual Spiking Neural Networks},
author = {Ansh Tiwari and Ayush Chauhan},
journal= {arXiv preprint arXiv:2510.12843},
year = {2025}
}