三阈值学习规则逼近循环神经网络的最大容量

理解记忆如何在神经群体中被编码和提取的理论基础是神经科学的核心挑战。建模记忆功能的一个流行理论情景是吸引子神经网络情景，其原型是 Hopfield 模型。与感知机学习算法实现的容量相比，该模型存储容量较差。在此，通过转换感知机学习规则，我们提出了一种循环神经网络的在线学习规则，其在无显式监督误差信号、仅依赖局部可获取信息的情况下实现了近最大存储容量。全连接网络由具有可塑循环连接的非塑性抑制反馈稳定网络动力的兴奋型二值神经元组成；记忆模式以强传入电流在线呈现，产生神经元突触输入的双峰分布。对应于活跃输入的突触根据局部场相对于三个阈值的值被修改。高于最高阈值和低于最低阈值时不发生可塑性。在这两个阈值之间，当局部场高于/低于中间阈值时发生增强/抑制。我们模拟并分析了实现该规则的二值神经元网络，并测量了其对不同吸引子盆尺寸的存储容量。数值模拟得到的存储容量接近于解析计算预测的值。我们还测量了容量对外部输入强度的依赖关系。最后，我们量化了所得突触连接矩阵的统计特性，发现零权重突触的比例和权重矩阵的对称程度均随存储模式数量的增加而增大。