关于神经网络中的de Almeida-Thouless线
无序系统与神经网络
2023-11-14 v4
摘要
在本工作中,我们提出了一种严格且直接的方法来检测信息处理系统中副本对称理论的失稳起始,该方法不需要像de Almeida和Thouless最初为自旋玻璃提出的那样进行完整的副本分析。该方法基于在RS值附近通过一步副本对称破缺(RSB)得到的自由能展开。因此,它仅要求自由能的连续性和可微性,并且可稳健地广泛应用于具有淬火无序的系统。我们将该方法应用于Hopfield模型以及具有多节点Hebbian相互作用的神经网络作为案例研究。在附录中,我们在Sherrington-Kirkpatrick和Ising P-spin模型上测试了该方法,恢复了文献中已知的这些模型的AT线,作为一个特殊极限,即假设从RS到RSB相的跃迁可以通过连续改变序参量获得。我们的方法提供了AT方法的推广,它不依赖于该极限,并且可应用于具有不连续相变的系统,正如我们针对球型P-spin模型明确展示并恢复了已知的RS失稳线。
引用
@article{arxiv.2303.06375,
title = {About the de Almeida-Thouless line in neural networks},
author = {Linda Albanese and Andrea Alessandrelli and Adriano Barra and Alessia Annibale},
journal= {arXiv preprint arXiv:2303.06375},
year = {2023}
}