神经网络中的副本对称性破缺:迈向严格结果的几步
数学物理
2020-06-02 v1 math.MP
摘要
在本文中,我们改编了破碎副本插值技术(由Francesco Guerra开发用于处理Sherrington-Kirkpatrick模型,即耦合为独立同分布标准高斯变量的成对平均场自旋玻璃),使其也适用于Hopfield模型(即耦合根据Hebb学习规则绘制的成对平均场神经网络):这是通过将Guerra的望远镜平均移植到最近由部分作者开发的输运方程技术上实现的。作为序曲,我们将该技术应用于求解具有中心在且有限方差的独立同分布高斯耦合的Sherrington-Kirkpatrick模型;均值扮演了在由调节的噪声环境中待检测信号的角色,因此使该模型成为在解决Hopfield模型之前研究的自然测试案例。对于这两个模型,我们在副本对称性破缺的第K步(K任意但有限)获得了以其自然序参量表示的淬火自由能的显式表达式。特别地,对于Hopfield模型,通过假设重叠遵循Parisi分解(遵循ziqqurat假设)且Mattis磁化强度是自平均的,我们恢复了先前通过副本技巧由Amit、Crisanti和Gutfreund(1RSB)以及Steffan和Kühn(2RSB)获得的结果。
引用
@article{arxiv.2006.00256,
title = {Replica symmetry breaking in neural networks: a few steps toward rigorous results},
author = {Elena Agliari and Linda Albanese and Adriano Barra and Gabriele Ottaviani},
journal= {arXiv preprint arXiv:2006.00256},
year = {2020}
}
备注
55 pages