球面玻尔兹曼机系综的副本理论
无序系统与神经网络
2026-04-28 v2 统计力学
摘要
机器学习中的训练通常旨在寻找一个模型，其参数最小化依赖于数据的损失函数。然而，经验研究表明，集成学习（一种对多个模型进行采样的方法）可以提升性能。本文针对玻尔兹曼机的情况，利用集成学习与自旋玻璃模型中自由能的大偏差之间的对偶性，提供了一个分析框架来理解这些观测结果。副本计算使我们能够完全求解球面玻尔兹曼机系综的情况，并阐明集成学习何时优于标准损失最小化，特别是在数据近似有限维的情况下。我们的框架也可应用于复杂的数据分布，这与对深度网络的数值模拟结果一致。
引用
@article{arxiv.2604.17936,
title = {Replica Theory of Spherical Boltzmann Machine Ensembles},
author = {Thomas Tulinski and Jorge Fernandez-De-Cossio-Diaz and Simona Cocco and Rémi Monasson},
journal= {arXiv preprint arXiv:2604.17936},
year = {2026}
}