Hopfield 网络中吸引子边界与存储极限的几何与动力学分析
神经与进化计算
2026-05-12 v3 机器学习
摘要
基于核Logistic回归 (KLR) 的高容量联想记忆具有强大的存储能力,但其稳定性背后的动力学与几何机制仍不为人所了解。本文探讨了KLR训练的Hopfield网络中吸引子流域的全局几何结构以及支配存储极限的机制。我们结合使用随机序列和真实世界图像嵌入(CIFAR-10)进行的经验评估,以及形变实验和统计信噪比 (SNR) 分析。我们的实验表明,该网络在随机序列上可实现存储容量达到 ,同时在有效负载接近 时保持结构化数据的稳定检索。形变分析显示,位于“优化的脊背”上的吸引子由尖锐的类相位转换边界分隔,这些边界以陡峭的有效势垒和临界减缓为特征。此外,通过将SNR分析与受Cover定理启发的几何参考点进行比较,我们发现实际存储极限主要受动态稳定性对抗交叉噪声的损失所主导,而非特征空间中的几何可分性不足。这些发现表明KLR网络作为高度局部示例基记忆系统,在动力学崩溃边缘运行,为设计稳健的大规模检索系统提供了有益视角。
引用
@article{arxiv.2605.00366,
title = {Geometric and dynamical analysis of attractor boundaries and storage limits in kernel Hopfield networks},
author = {Akira Tamamori},
journal= {arXiv preprint arXiv:2605.00366},
year = {2026}
}
备注
10 pages, 6 figures