脉冲神经网络中用于时空学习的有限元动态神经元
神经与进化计算
2020-10-08 v1
摘要
脉冲神经网络（SNNs）已融入更多具生物合理性的结构与学习原理，因此在弥合人工与自然神经网络鸿沟中发挥着关键作用。脉冲是描述膜电位阈上基于事件的发放与阈下动态计算的稀疏信号，为信息表示与计算提供了另一种统一且高效的方式。受生物网络中有限数量元神经元整合以实现多种认知功能启发，我们提出并构建了元动态神经元（MDN）以改进SNNs，使其在时空学习中获得更好的网络泛化能力。MDN设计具备包含膜电位一阶与二阶动态的基本神经元动力学，含由若干超参数支持的空间与时间元类型。MDN先由空间（MNIST）与时序（TIDigits）数据集生成，随后扩展至多种其他不同时空任务（包括 Fashion-MNIST、NETtalk、Cifar-10、TIMIT 与 N-MNIST）。相较其他SOTA SNN算法取得了可比精度，且使用MDN的SNN比不使用MDN的SNN实现了更好泛化。
引用
@article{arxiv.2010.03140,
title = {Finite Meta-Dynamic Neurons in Spiking Neural Networks for Spatio-temporal Learning},
author = {Xiang Cheng and Tielin Zhang and Shuncheng Jia and Bo Xu},
journal= {arXiv preprint arXiv:2010.03140},
year = {2020}
}
备注
24 pages, 8 figures, 4 tables