基于事件驱动 STDP 的表示学习
神经与进化计算
2018-06-15 v3 神经元与认知
摘要
尽管在传统神经网络框架下开发的表示学习方法已相对成熟，但开发脉冲表示模型仍是一个具有挑战性的问题。本文提出一种基于事件的方法，用于训练前馈脉冲神经网络(SNN)层以提取视觉特征。该方法引入了一种新颖的脉冲时序依赖可塑性(spike-timing-dependent plasticity, STDP)学习规则和一种阈值调整规则，二者均源自受稀疏性约束的类向量量化目标函数。该 STDP 规则由向量量化准则的梯度获得，并被转换为基于脉冲的、时空局部更新规则，应用于由泄漏积分发放(leaky, integrate-and-fire, LIF)神经元组成的脉冲网络中。模型的独立性与稀疏性通过阈值调整规则以及通过在由 WTA 阈值化脉冲神经元构成的表示层中实现抑制的 softmax 函数来实现。这些机制共同实现了一种基于脉冲的竞争学习形式。在 MNIST 和自然图像数据集上进行了两组实验。结果表明，该稀疏脉冲视觉表示模型具有较低的重建损失，可与最先进的视觉编码方法相媲美，且我们的规则在时间和空间上均是局部的，因此具有生物学合理性且对硬件友好。
引用
@article{arxiv.1706.06699,
title = {Representation Learning using Event-based STDP},
author = {Amirhossein Tavanaei and Timothee Masquelier and Anthony Maida},
journal= {arXiv preprint arXiv:1706.06699},
year = {2018}
}