稳态在学习稀疏表征中的作用
神经元与认知
2016-12-09 v7
摘要
灵长类动物初级视觉皮层输入层的神经元发展出边缘状感受野。理解这种响应出现的一种方法是指出,神经活动必须相对于自然场景的统计特性来高效地表征感觉数据。此外,人们认为这种高效编码是通过神经元间的竞争来实现的,从而生成稀疏表征,即相对较少数量的神经元同时处于活跃状态。事实上,结合Hebbian学习和稳态的不同稀疏编码模型已被提出,并成功匹配了观察到的涌现响应。然而,稳态在学习此类稀疏表征中的具体作用在很大程度上仍未知。通过定量评估学习过程中神经表征的效率,我们推导出一种协同稳态机制,该机制在稀疏编码算法中最优地调节了神经元之间的竞争。我们在学习取自自然图像的小块图像时应用了这种稳态,并将其效率与SOTA算法进行了比较。结果表明,尽管不同的稀疏编码算法给出相似的编码结果,但稳态为神经元群内自然图像的表征提供了最优平衡。当竞争公平时,稀疏编码中的竞争得到优化。通过促进优化神经元间的统计竞争,稳态在为独立成分的涌现提供更高效的解方面至关重要。
引用
@article{arxiv.0706.3177,
title = {Role of homeostasis in learning sparse representations},
author = {Laurent Perrinet},
journal= {arXiv preprint arXiv:0706.3177},
year = {2016}
}