中文

通过星形胶质细胞调制的可塑性组织的混沌边缘动力学提升液态状态机性能

神经与进化计算 2021-11-03 v1 计算机视觉与模式识别 机器学习 神经元与认知

摘要

液态状态机(LSM)结合了低训练复杂度和生物合理性,使其成为边缘计算和神经形态计算范式中一个有吸引力的机器学习框架。LSM最初作为大脑计算模型提出,它无需梯度反向传播即可调整其内部权重,这导致其性能低于多层神经网络。神经科学的最新发现表明,星形胶质细胞(一种长期被忽视的非神经元脑细胞)能够调节突触可塑性和大脑动力学,将大脑网络调谐到计算上最优的秩序与混沌之间的临界相变附近。受这种对大脑网络自调谐方式的颠覆性理解的启发,我们提出了神经元-星形胶质细胞液态状态机(NALSM),它通过自组织的近临界动力学来解决性能不足的问题。与其生物对应物类似,星形胶质细胞模型整合神经元活动,并向脉冲时间依赖可塑性(STDP)提供全局反馈,这使NALSM动力学围绕一个与混沌边缘相关的临界分支因子进行自组织。我们证明,与可比的LSM方法相比,NALSM实现了最先进的准确率,且无需针对特定数据进行手动调谐。在MNIST上达到97.61%的最高准确率,在N-MNIST上达到97.51%,在Fashion-MNIST上达到85.84%,NALSM取得了与当前通过反向传播训练的全连接多层脉冲神经网络相当的性能。我们的发现表明,受脑启发的机器学习方法的进一步发展有潜力达到深度学习的性能,并具有支持边缘上鲁棒且高能效的神经形态计算的额外优势。

关键词

引用

@article{arxiv.2111.01760,
  title  = {Increasing Liquid State Machine Performance with Edge-of-Chaos Dynamics Organized by Astrocyte-modulated Plasticity},
  author = {Vladimir A. Ivanov and Konstantinos P. Michmizos},
  journal= {arXiv preprint arXiv:2111.01760},
  year   = {2021}
}

备注

23 pages, 9 figures, NeurIPS 2021