向量 Hopfield 网络在饱和临界值附近及以上统计力学

我们对分析和数值研究了具有 $d$ 维向量自旋的 Hopfield 全连接网络。这些网络是关联记忆的模型，概括了以 Ising 自旋为标准的 Hopfield 网络，其中将 $P$ 个例子存储在 $N$ 个单元的网络中作为能量景观中的局部最小化值。我们研究了系统的平衡与非平衡性质，考虑系统处于检索相 $\alpha<\alpha_c$ 以及超出该值的情形，其中 $\alpha=P/N$ 为系统容量，$\alpha_c$ 为其临界值，超过该值存储将失败。我们推导了系统平衡热力学的 Replica 对称解及其相图：我们发现，随着自旋维数的增大，网络的检索相面积将缩小，最终在大 $d$ 极限下临界容量 $\alpha_c\propto 1/d$ 为零。在同一极限下，向量 Hopfield 网络能够在检索动力学的第一步中对被破坏输入模式进行去噪，容量可达 very large $\alpha\propto d$。我们也研究了系统在零温度下的静态性质，考虑能量 Hessian 谱中软模式的统计性质。我们发现，与记忆状态相关的能量景观局部极小值具有无间隙谱，仅有少数软本征模：这些激发是局部化的，其测度浓缩在记忆状态中最噪声的神经元上。