层次Dyson模型中的亚稳态驱动层次Hopfield网络中的并行处理
无序系统与神经网络
2016-02-02 v1 数学物理
math.MP
摘要
本文引入并研究了层次神经网络的统计力学：首先，我们以Mattis方式处理这些系统，将Dyson模型视为单模式层次神经网络，并讨论了由平均场界和绕过平均场限制的界所预测的不同可检索态的稳定性。后者通过将更高层次磁化涨落适当地重新吸收为更低层次的有效场而得到。值得注意的是，将Amit的ansatz技术（用于选择候选可检索态）与插值过程（用于求解这些态的自由能）相结合，我们证明（由于规范对称性）Dyson模型同时实现了串行和并行处理。进一步，我们通过在学习过程中在耦合中实施Hebb规则，将这一场景扩展到多个存储模式。这导致了一个受限于层次拓扑的类似Hopfield的网络，对于该网络，限制在低存储率（模式数量最多随神经元数量对数增长）下，我们证明了自由能热力学极限的存在，并给出了其平均场界及相关改进界的显式表达式。
关键词
引用
@article{arxiv.1407.5176,
title = {Meta-stable states in the hierarchical Dyson model drive parallel processing in the hierarchical Hopfield network},
author = {Elena Agliari and Adriano Barra and Andrea Galluzzi and Francesco Guerra and Daniele Tantari and Flavia Tavani},
journal= {arXiv preprint arXiv:1407.5176},
year = {2016}
}