Noisy Softplus:一种使 SNN 能够作为 ANN 训练的激活函数
神经与进化计算
2017-06-13 v1
摘要
我们扩展了所提出的激活函数 Noisy Softplus 的工作,以适配分层脉冲神经网络(SNNs)的训练。因此,任何采用 Noisy Softplus 神经元的 ANN(即使是深度架构)都可以仅通过传统算法(例如反向传播(BP))进行训练,且训练得到的权重可直接用于同一网络的脉冲版本而无需任何转换。此外,该训练方法可推广到其他激活单元,例如修正线性单元(ReLU),以离线训练深度 SNN。这项研究对于为 SNN 训练提供有效方法、提高具有生物特性的 SNN 的分类准确率以及缩小 SNN 与 ANN 之间的性能差距至关重要。
引用
@article{arxiv.1706.03609,
title = {Noisy Softplus: an activation function that enables SNNs to be trained as ANNs},
author = {Qian Liu and Yunhua Chen and Steve Furber},
journal= {arXiv preprint arXiv:1706.03609},
year = {2017}
}