利用仿生自适应内部关联神经元训练更强的脉冲神经网络
神经与进化计算
2023-03-15 v2 计算机视觉与模式识别
机器学习
神经元与认知
摘要
作为第三代神经网络,脉冲神经网络(SNNs)致力于探索更具洞察力的神经机制以实现近生物智能。直观上,仿生机制对理解和改进 SNNs 至关重要。例如,联想长时程增强(ALTP)现象表明,除神经元间的学习机制外,神经元内部还存在关联效应。然而,现有多数方法仅关注前者,缺乏对内部关联效应的探索。本文中,我们提出一种新颖的自适应内部关联(AIA)神经元模型,以建立此前被忽略的神经元内部影响。与 ALTP 现象一致,AIA 神经元模型对输入刺激具有适应性,且仅当两个树突同时受刺激时才发生内部关联学习。此外,我们采用加权权重度量内部关联,并引入中间缓存以降低关联的不稳定性。在主流神经形态数据集上的大量实验表明,所提方法能更具特异性地增强或抑制脉冲发放,从而以更少脉冲取得更优性能。值得注意的是,在推理时不增加任何参数的情况下,AIA 模型在 DVS-CIFAR10(83.9%)与 N-CARS(95.64%)数据集上取得了最先进(state-of-the-art)性能。
引用
@article{arxiv.2207.11670,
title = {Training Stronger Spiking Neural Networks with Biomimetic Adaptive Internal Association Neurons},
author = {Haibo Shen and Yihao Luo and Xiang Cao and Liangqi Zhang and Juyu Xiao and Tianjiang Wang},
journal= {arXiv preprint arXiv:2207.11670},
year = {2023}
}
备注
Accepted by ICASSP 2023