基于分层稀疏编码与STDP学习的仿生脉冲卷积神经网络
神经与进化计算
2017-06-27 v4
摘要
使用非脉冲卷积神经网络(CNNs)的分层特征发现近期在机器学习和计算机视觉中引起了广泛关注。然而,如何创建具有多层无监督学习的类脑脉冲神经元的生物合理网络仍未被很好理解。本文探索一种新颖的仿生脉冲CNN,它以贪婪的分层方式进行训练。所提出的网络由一个脉冲卷积-池化层和一个提取独立视觉特征的特征发现层组成。卷积层的核使用局部学习进行训练。该学习使用表示初级视觉特征的稀疏脉冲自编码器实现。特征发现层通过概率性漏积分发放(LIF)神经元提取独立特征,这些神经元对刺激稀疏激活。概率性LIF神经元层隐式提供侧抑制以提取稀疏且独立的特征。实验结果表明卷积层是可堆叠的,使其能够支持多层学习。从所提出特征发现层中的概率性LIF神经元获得的视觉特征被用于训练分类器。分类结果有助于在卷积和特征发现层层级中提取独立且信息丰富的视觉特征。所提模型在MNIST手写数字数据集上使用干净和带噪声图像进行评估。干净图像的识别性能高于98%。识别带噪声图像的性能损失在0.1%到8.5%范围内,取决于噪声类型和密度。这种性能损失水平表明网络对加性噪声具有鲁棒性。
引用
@article{arxiv.1611.03000,
title = {Bio-Inspired Spiking Convolutional Neural Network using Layer-wise Sparse Coding and STDP Learning},
author = {Amirhossein Tavanaei and Anthony S. Maida},
journal= {arXiv preprint arXiv:1611.03000},
year = {2017}
}