$\Sigma$-注意力：面向强相关系统自能的基于 Transformer 的算子学习框架
强关联电子
2025-06-02 v2
摘要
我们提出 -Attention，一个基于 Transformer 的算子学习框架，以解决相关材料中的关键计算挑战。我们的做法将 Encoder-Only Transformer 作为 ansatz 用于逼近强相关电子系统的自能算子。通过组合多种方法：many-body perturbation theory、strong-coupling expansion 和 exact diagonalization 各自在特定参数区间的优势，构建出批处理数据集。-Attention 被用于学习一种跨所有参数区间都有效的自能算子的通用逼近。这种混合策略既利用了现有方法的优势，又依赖于 Transformer 具备的超越单个方法局限性的泛化能力。更重要的是，Transformer 架构的可扩展性使得所学得的自能可扩展至更大规模的系统，显著提升了计算规模。以 1D Hubbard 模型为例，我们展示 -Attention 能够准确预测 Matsubara 绿's 函数，从而有效捕捉有限温度下的 Mott 相变。我们的框架为探索强相关系统提供了一条具有前景且可扩展的路径，并具备多种可能的推广方向。
关键词
引用
@article{arxiv.2504.14483,
title = {$\Sigma$-Attention: A Transformer-based operator learning framework for self-energy in strongly correlated systems},
author = {Yuanran Zhu and Peter Rosenberg and Zhen Huang and Hardeep Bassi and Chao Yang and Shiwei Zhang},
journal= {arXiv preprint arXiv:2504.14483},
year = {2025}
}