基于侧抑制的深度归一化-free脉冲神经网络训练

脉冲神经网络（SNN）因其能效高和生物学可信度，成为神经形态计算中的核心范式。然而，训练深层SNN严重依赖显式归一化方案，导致性能与生物学真实性之间存在权衡。为解决这一矛盾，我们提出一种包含受体抑制（lateral inhibition）的归一化-free学习框架，受到皮层电路的启发。该框架将传统的前馈SNN层替换为具有不同抑性（I）和兴奋性（E）神经元群的结构，捕捉皮层E-I相互作用的关键特征。E-I电路通过减性和除性抑制动态调节神经元活动，分别控制神经元的兴奋性和增益。为稳定生物约束的SNN端到端训练，我们提出两种关键技术：E-I Init和E-I Prop。E-I Init是一种动态参数初始化方案，在进行增益控制的同时平衡抑性和兴奋性输入。E-I Prop将电路的反向传播与前向传递解耦，调节梯度流。实验在多个数据集和网络架构上表明，该框架能够实现具有生物学可信度的深度归一化-free SNN的稳定训练，实现了具竞争力的性能。因此，我们的工作不仅为训练深层SNN提供了解决方案，也为进一步探索E-I相互作用在大规模皮层计算中的功能提供了计算平台。代码已公开于https://github.com/vwOvOwv/DeepEISNN。