中文

类比神经网络中序参量的约束

无序系统与神经网络 2009-11-17 v1 统计力学

摘要

在本文中,我们通过平衡态统计力学研究了一个模式被连续存储(高斯分布)的Hopfield神经网络内能的性质。该模型被证明等价于一个二分自旋玻璃,其中一方由二分神经元组成,另一方由高斯自旋变量组成。处理复制系统时,除了Mattis磁化强度,我们引入了两个重叠参量,每个对应一方,作为理论的序参量:第一个是不同复制品间神经构型上的标准重叠,第二个是不同复制品间高斯自旋的重叠。本工作的目的是展示这些序参量存在约束,这些约束接近于在许多其他复杂系统(如自旋玻璃和稀释网络)中发现的约束:我们为两个重叠参量找到了一类Ghirlanda-Guerra恒等式,将众所周知的约束推广到了神经网络,以及新的恒等式,其中噪声被明确涉及。

关键词

引用

@article{arxiv.0911.3113,
  title  = {Constraints for the order parameters in analogical neural networks},
  author = {Adriano Barra and Francesco Guerra},
  journal= {arXiv preprint arXiv:0911.3113},
  year   = {2009}
}

备注

15 pages, published in: Percorsi d'Ateneo, S. Vitolo Ed., Salerno, (2008)