中文

超越不动点:非对称 Hopfield 网络的超多项式容量

机器学习 2026-05-26 v1

摘要

经典 Hopfield 网络由于对称权重而局限于静态模式,而非对称网络可以通过极限环吸引子编码时间序列。然而,在经典的同步非对称网络中实现长序列的高容量存储仍然是一个挑战。我们在具有二元神经元和同步更新的经典非对称 Hopfield 模型内提出了一种简单且稳健的构造,该构造允许 nn 个神经元支持 exp ⁣(Ω(n/(logn)2))\exp\!\big(\Omega(n/(\log n)^2)\big) 个不同的极限环吸引子,每个吸引子的周期为 exp ⁣(Ω(n/logn))\exp\!\big(\Omega(\sqrt n/\log n)\big),并且对翻转概率高达 12o(1)\frac12-o(1) 的随机噪声具有鲁棒性,从而在存储序列的数量和长度上都实现了超多项式容量。这是首次证明非对称 Hopfield 网络具有这样的容量,我们通过结合组合学、数论和意见动态分析的结果获得了这一结果。我们的发现表明,同步非对称 Hopfield 网络具有比先前认识到的更大且更稳健的序列记忆容量,证明了在生物和人工神经系统中,稳健的序列表示可以通过粗略的架构模式而非复杂的非线性来实现。

关键词

引用

@article{arxiv.2605.24611,
  title  = {Beyond Fixed Points: Superpolynomial Capacity of Asymmetric Hopfield Networks},
  author = {Aakash Kumar and Anatoly Khina and Frederik Mallmann-Trenn and Emanuele Natale},
  journal= {arXiv preprint arXiv:2605.24611},
  year   = {2026}
}