稠密联想神经网络的广义 Guerra 插值格式
无序系统与神经网络
2020-04-17 v2
摘要
本工作中我们发展解析技术以研究设置于高存储 regime 的一类广泛联想神经网络。这些技术将原始统计力学问题转化为解析-力学问题，意味着求解一组偏微分方程，而非走经典的概略概率路径。我们在经典 Hopfield 模型（其代价函数仅含两体相互作用，即二次项）与“相对论”Hopfield 模型（其代价函数（的展开）包含 p 体（即 p 次）贡献）上检验该方法。在副本对称假设下，我们通过获得这些模型自由能关于模型参数（即噪声水平与记忆存储）的显式表达式来描绘其相图。此外，由于对非成对模型遍历破缺未必是临界现象，我们发展了涨落分析并发现相对论模型中临界性得以保持。
引用
@article{arxiv.1911.12707,
title = {Generalized Guerra's interpolation schemes for dense associative neural networks},
author = {Elena Agliari and Francesco Alemanno and Adriano Barra and Alberto Fachechi},
journal= {arXiv preprint arXiv:1911.12707},
year = {2020}
}