CASK：面向格粒子量子色力学的规范协变 Transformer

我们提出了一种专为格粒子量子色力学设计的 Transformer 神经网络架构，旨在保持格粒子理论中必需的基本对称性。该架构具有规范协变/等变性，确保在格粒子上遵循规范对称性，同时在格粒子上的旋转和平移等时空对称性上也具有等变性。我们方法的关键特征在于注意力矩阵，这是 Transformer 架构的核心。为保持对称性，我们使用链接变量与扩展臂之间的 Frobenius 内积来定义注意力矩阵。这种构建方式确保注意力矩阵在规范变换下保持不变，从而使整个 Transformer 架构具有协变性。我们在自学习 HMC 的上下文中评估了规范协变 Transformer 的性能。数值实验表明，所提出的架构相较于规范协变神经网络具有更高的性能，展示了其在格粒子量子色力学计算中潜在的改进能力。