GITO: 用于学习复杂偏微分方程的图引导 Transformer 算子
机器学习
2025-06-18 v1
摘要
我们提出了一种新颖的图引导 Transformer 算子（GITO）架构，用于学习定义在不规则几何和非均匀网格上的复杂偏微分方程系统。GITO 由两个主要模块组成：混合图 Transformer（HGT）和 Transformer 神经算子（TNO）。HGT 利用图神经网络（GNN）编码局部空间关系，并利用 Transformer 捕获长程依赖。自注意力融合层整合 GNN 和 Transformer 的输出，使图结构数据上的特征学习更具表达力。TNO 模块采用线性复杂度的交叉注意力和自注意力层，将编码后的输入函数映射到任意查询位置的预测，确保离散化不变性，并实现任意网格上的零样本超分辨率。在基准 PDE 任务上的实验结果表明，GITO 优于现有的基于 Transformer 的神经算子，为工程应用中高效、网格无关的代理求解器铺平了道路。
引用
@article{arxiv.2506.13906,
title = {GITO: Graph-Informed Transformer Operator for Learning Complex Partial Differential Equations},
author = {Milad Ramezankhani and Janak M. Patel and Anirudh Deodhar and Dagnachew Birru},
journal= {arXiv preprint arXiv:2506.13906},
year = {2025}
}