一种量化生成模型求解伊辛模型泛化能力的方法
无序系统与神经网络
2024-05-07 v1 人工智能
机器学习
摘要
对于具有复杂能量景观的伊辛模型,神经网络能否找到基态在很大程度上取决于训练数据集与基态之间的汉明距离。尽管最近提出的各种生成模型在求解伊辛模型方面表现出良好的性能,但关于如何量化其泛化能力的讨论尚不充分。本文在一类生成模型——变分自回归网络(VAN)的框架内设计了一个汉明距离正则化器,以量化各种网络架构与VAN结合后的泛化能力。该正则化器可以控制网络生成的训练数据集与基态之间的重叠大小,该重叠与找到基态的成功率共同构成一个量化指标,用于评估其泛化能力。我们对几种与VAN结合的原型网络架构进行了数值实验,包括前馈神经网络、循环神经网络和图神经网络,以量化它们在求解伊辛模型时的泛化能力。此外,考虑到对小规模问题上网络泛化能力的量化可用于预测其在大规模问题上的相对性能,我们的方法对于辅助神经架构搜索领域在求解大规模伊辛模型时寻找最优网络架构具有重要意义。
引用
@article{arxiv.2405.03435,
title = {A method for quantifying the generalization capabilities of generative models for solving Ising models},
author = {Qunlong Ma and Zhi Ma and Ming Gao},
journal= {arXiv preprint arXiv:2405.03435},
year = {2024}
}
备注
10 pages, 7 figures