用于深度脉冲神经网络的离散化二次积分发放神经元模型
机器学习
2025-10-08 v1 计算机视觉与模式识别
摘要
脉冲神经网络（Spiking Neural Networks, SNNs）利用异步且受生物学启发的神经元动力学，已成为传统人工神经网络的高能效替代方案。在现有的神经元模型中，漏积分发放（Leaky Integrate-and-Fire, LIF）神经元因其简单性和计算效率而在深度 SNNs 中被广泛采用。然而，这种效率是以牺牲表达能力为代价的，因为 LIF 动力学在每个时间步被限制为线性衰减。相比之下，更复杂的模型（如二次积分发放（Quadratic Integrate-and-Fire, QIF）神经元）表现出更丰富的非线性动力学，但由于其训练不稳定性而未被广泛采用。对此，我们提出了专为高性能深度脉冲神经网络定制的首个 QIF 神经元模型离散化方法，并对其动力学进行了深入分析。为确保训练稳定性，我们直接从离散化参数集中推导出替代梯度窗口的解析公式，从而最小化梯度不匹配。我们在 CIFAR-10、CIFAR-100、ImageNet 和 CIFAR-10 DVS 上评估了我们的方法，证明了其优于基于 LIF 的 SOTA 方法的能力。这些结果确立了我们的 QIF 神经元离散化作为深度 SNNs 中 LIF 神经元的极具吸引力的替代方案，将更丰富的动力学与实际的可扩展性相结合。
引用
@article{arxiv.2510.05168,
title = {Discretized Quadratic Integrate-and-Fire Neuron Model for Deep Spiking Neural Networks},
author = {Eric Jahns and Davi Moreno and Milan Stojkov and Michel A. Kinsy},
journal= {arXiv preprint arXiv:2510.05168},
year = {2025}
}
备注
18 pages, 2 figures