用于多层无监督脉冲神经网络的自脉冲 Inception 模块
神经与进化计算
2020-10-20 v5 机器学习
神经元与认知
摘要
脉冲神经网络（SNN）作为一种受脑启发的方法，因其产生超高能量效率硬件的潜力而受到关注。基于脉冲时序依赖可塑性（STDP）的竞争学习是训练无监督 SNN 的流行方法。然而，先前通过此方法训练的无监督 SNN 仅限于仅有一个可学习层的浅层网络，且与多层 SNN 相比无法取得令人满意的结果。在本文中，我们通过以下方式缓解了此限制：1）受人工神经网络（ANN）文献中 Inception 模块的启发，我们提出了一种自脉冲 Inception（Sp-Inception）模块。该模块通过基于 STDP 的竞争学习训练，在学习能力、学习效率和鲁棒性上优于基线模块。2）我们提出了一种池化-重塑-激活（PRA）层以使 Sp-Inception 模块可堆叠。3）我们堆叠多个 Sp-Inception 模块以构建多层 SNN。我们的算法在手写数字分类任务上优于基线算法，并在现有无监督 SNN 中于 MNIST 数据集上达到最先进结果。
引用
@article{arxiv.2001.10696,
title = {Spiking Inception Module for Multi-layer Unsupervised Spiking Neural Networks},
author = {Mingyuan Meng and Xingyu Yang and Shanlin Xiao and Zhiyi Yu},
journal= {arXiv preprint arXiv:2001.10696},
year = {2020}
}
备注
Published at the 2020 International Joint Conference on Neural Networks (IJCNN); Extended from arXiv:2001.01680