面向脉冲收敛型循环神经网络的随机平衡传播
新兴技术
2025-11-17 v1 机器学习
摘要
脉冲神经网络 (SNN) 承诺实现高效、稀疏、仿生计算。通过反向传播通过时间 (BPTT) 和 surrogate 梯度训练可实现强大的性能，但在生物学上仍不具象。平衡传播 (EP) 提供了一种更具局部性和生物学依托的替代方案。然而，现有的 EP 框架主要基于确定性神经元，要么需要复杂机制来处理脉冲动力学中的不连续性，要么无法在简单视觉任务之外实现规模化。以生物学脉冲机制的随机性以及近期硬件趋势为灵感，我们提出了一种集成概率脉冲神经元的随机 EP 框架。该表述平滑了优化景观，稳定了训练，使深度卷积脉冲收敛型循环神经网络 (CRNN) 的可扩展学习成为可能。我们提供了理论保证，表明所提出的随机 EP 动态在均值场理论下近似确定性 EP，从而继承其 underlying 理论保证。该框架在视觉基准测试中缩小了与 BPTT 训练的 SNN 和 EP 训练的非脉冲 CRNN 之间的差距，同时保持局部性，凸显随机 EP 作为神经形态和芯片级学习的有前景的方向。
引用
@article{arxiv.2511.11320,
title = {StochEP: Stochastic Equilibrium Propagation for Spiking Convergent Recurrent Neural Networks},
author = {Jiaqi Lin and Yi Jiang and Abhronil Sengupta},
journal= {arXiv preprint arXiv:2511.11320},
year = {2025}
}