一种用于无监督学习的博弈给出赫布兴奋、反赫布抑制与突触消除的计算解释
神经与进化计算
2017-04-04 v1 神经元与认知
摘要
从经验研究中,人们已经对生物突触的可塑性有了很多认识。赫布可塑性由突触前神经元与突触后神经元的相关活动驱动。汇聚到同一神经元的突触通常表现得像在竞争固定资源;一些在竞争中存活,而另一些则被消除。为了对这些突触可塑性方面提供计算解释,我们在神经网络模型中将无监督学习形式化为赫布兴奋与反赫布抑制之间的零和博弈。该博弈将以下直觉形式化:赫布兴奋试图最大化神经元与其输入的相关性,而反赫布抑制试图使神经元彼此去相关。我们进一步引入了突触竞争模型,使神经元能够消除除与其相关性最强的输入之外的所有连接。通过经验研究,我们表明这促进了对类似于物体组成部分的感官特征的学习。
引用
@article{arxiv.1704.00646,
title = {A correlation game for unsupervised learning yields computational interpretations of Hebbian excitation, anti-Hebbian inhibition, and synapse elimination},
author = {H. Sebastian Seung and Jonathan Zung},
journal= {arXiv preprint arXiv:1704.00646},
year = {2017}
}