基于 Hebbian 兴奋性与反 Hebbian 抑制性神经元非线性网络的无监督学习
神经元与认知
2019-01-01 v1 神经与进化计算
摘要
本文介绍了一种基于放电率的非线性神经网络，其中兴奋性 (E) 神经元接收来自感觉 (S) 神经元的前馈兴奋，并通过由抑制性 (I) 中间神经元介导的双突触通路相互抑制。基于相关的双突触抑制可塑性用于不完全去相关 E 神经元活动，推动 E 神经元学习不同的感觉特征。可塑性方程还包含“额外”项，促进汇聚到同一突触后神经元的兴奋性突触之间以及从同一突触前神经元发散的抑制性突触之间的竞争。SE 连接的竞争参数可调整以使学习到的特征更像是“部分”或“整体”。I-E 连接的竞争参数可调整以设定 E 神经元活动的典型去相关性和稀疏性。无监督学习的数值模拟表明，相对较少的 I 神经元即可足以实现良好的去相关，且增加 I 神经元数量使去相关更完全。由于学习的结果，对活跃 E 神经元的兴奋性和抑制性输入近似平衡。
引用
@article{arxiv.1812.11581,
title = {Unsupervised learning by a nonlinear network with Hebbian excitatory and anti-Hebbian inhibitory neurons},
author = {H. Sebastian Seung},
journal= {arXiv preprint arXiv:1812.11581},
year = {2019}
}
备注
10 figures