配对竞争神经元改进脉冲神经网络中基于STDP的监督式局部学习
计算机视觉与模式识别
2024-08-28 v2
摘要
在神经形态硬件上直接训练脉冲神经网络（SNNs）有潜力显著降低人工神经网络训练的能耗。采用脉冲时序依赖可塑性（STDP）训练的SNN受益于无梯度、无监督的局部学习，可轻松部署于超低功耗神经形态硬件。然而，仅依靠无监督STDP无法完成分类任务。本文提出稳定化监督STDP（S2-STDP），一种监督式STDP学习规则，用于训练配备无监督STDP以进行特征提取的SNN的分类层。S2-STDP集成了误差调制权重更新，使神经元脉冲与由层内平均放电时间导出的期望时间戳对齐。随后，我们引入一种称为配对竞争神经元（PCN）的训练架构，以进一步增强由S2-STDP训练的分类层的学习能力。PCN将每个类别与配对神经元相关联，并通过类内竞争促使神经元针对目标或非目标样本实现专业化。我们在图像识别数据集（包括MNIST、Fashion-MNIST和CIFAR-10）上评估了我们的方法。结果表明，在架构和神经元数量可比的情况下，我们的方法优于最先进的监督STDP学习规则。进一步分析表明，无论超参数集如何，使用PCN均能提升S2-STDP的性能，且不引入任何额外超参数。
引用
@article{arxiv.2308.02194,
title = {Paired Competing Neurons Improving STDP Supervised Local Learning In Spiking Neural Networks},
author = {Gaspard Goupy and Pierre Tirilly and Ioan Marius Bilasco},
journal= {arXiv preprint arXiv:2308.02194},
year = {2024}
}