用于阻挫量子自旋系统的 Transformer 变分波函数
无序系统与神经网络
2023-06-13 v2 量子物理
摘要
Transformer 架构已成为自然语言处理任务的最新技术模型，最近也应用于计算机视觉任务，从而定义了 Vision Transformer (ViT) 架构。其关键特征是能够通过所谓的自注意力机制描述输入序列元素之间的长程关联。在此，我们提出将具有复参数的 ViT 架构进行改造，为量子多体系统定义一类新的变分神经网络态，即 ViT 波函数。我们将此思想应用于一维 - Heisenberg 模型，证明相对简单的参数化在能隙和非能隙相中均能获得优异结果。在这种情况下，仅含单层自注意力的相对浅层的架构即可获得极高的精度，从而大大简化了原始架构。尽管如此，更深结构的优化也是可行的，并可用于更具挑战性的模型，最显著的是二维高度阻挫系统。ViT 波函数的成功依赖于混合局部和全局操作，从而能够高精度地研究大型系统。
引用
@article{arxiv.2211.05504,
title = {Transformer variational wave functions for frustrated quantum spin systems},
author = {Luciano Loris Viteritti and Riccardo Rende and Federico Becca},
journal= {arXiv preprint arXiv:2211.05504},
year = {2023}
}
备注
7 pages (including the Supplemental Material), 6 figures