噪声下循环赫布网络自然涌现的鲁棒联想记忆
神经与进化计算
2017-09-26 v1
摘要
大脑是一个受能量约束的噪声系统。在为人工神经网络建模时,这些事实很少被考虑。在本文中,我们旨在证明这些因素实际上可以导致鲁棒联想记忆的出现。我们首先提出了一个大脑噪声的简化模型,考虑了突触噪声和来自网络外部神经元的干扰。我们证明,当进行粗略量化时,这种噪声可以简化为插入和擦除。我们采用一个具有循环可修改连接的神经网络,并使其受到噪声外部输入的影响。我们在网络中引入了能量使用限制原则以及巩固的赫布学习,从而实现了对输入的增量式处理。我们证明,自然形成的连接对应于最先进的二值稀疏联想记忆。
引用
@article{arxiv.1709.08367,
title = {Robust Associative Memories Naturally Occuring From Recurrent Hebbian Networks Under Noise},
author = {Eliott Coyac and Vincent Gripon and Charlotte Langlais and Claude Berrou},
journal= {arXiv preprint arXiv:1709.08367},
year = {2017}
}