利用积分发放神经元网络学习输入的时间结构
神经元与认知
2020-10-13 v4
摘要
大脑的任务在于寻找外部输入中的结构。我们研究了一个具有多种递归连接的积分发放神经元网络，该网络通过尝试用脉冲高效地表示其随时间变化的前馈输入来学习该输入的结构。表示的效率源于将输入结构纳入解码器，这隐含于网络学习到的突触连接中。在[Boerlin, Machens, Denève 2013]与[Brendel et al., 2017]的原有工作中，网络为使得表示高效而学习的结构是前馈输入的低维性，而在本工作中则是其时间动力学。网络通过调节其突触权重来实现效率，使得对网络中任意神经元，递归输入在大多数时间抵消前馈输入。我们表明，若输入仅有的时间结构是其在神经元积分时间尺度上缓慢变化，则网络动力学的维数等于输入的维数。然而，若输入遵循一阶线性微分方程，则可通过使网络动力学的维数相对于输入维数增加而提升表示效率。若网络中仅有一种慢突触电流，则增加为两倍；而若有两类以不同速率衰减且幅度可分别调节的慢突触电流，则有利的做法是使增加为三倍。我们对在上述情形下隐含最高效输入表示的突触权重进行了数值模拟。我们还提出了一种学习规则，借此可学习相应的突触权重。
引用
@article{arxiv.1912.10262,
title = {Learning temporal structure of the input with a network of integrate-and-fire neurons},
author = {Lyudmila Kushnir and Sophie Denève},
journal= {arXiv preprint arXiv:1912.10262},
year = {2020}
}