受限玻尔兹曼机:近期进展与平均场理论
无序系统与神经网络
2023-07-17 v2 统计力学
机器学习
摘要
本综述从统计物理视角探讨受限玻尔兹曼机(RBM)。RBM是机器学习(ML)的经典模型族,在深度学习的发展中发挥了核心作用。将其视为自旋玻璃模型并展示其与其他统计物理模型的多种联系,我们汇集了此背景下有关平均场理论的近期结果。首先,RBM的功能可通过针对各种统计系综获得的相图进行分析,尤其识别出{\it 组合相},其中少量特征或模式组合形成复杂图案。随后我们讨论近期工作,这些工作或是能够设计基于平均场的学习算法,或是能够从某些{\it 系综动力学方程}和/或线性稳定性论证再现学习过程的通用方面。
引用
@article{arxiv.2011.11307,
title = {Restricted Boltzmann Machine, recent advances and mean-field theory},
author = {Aurélien Decelle and Cyril Furtlehner},
journal= {arXiv preprint arXiv:2011.11307},
year = {2023}
}
备注
44 pages, 13 figures. Accepted for CPB