中文

GIST:面向可扩展图神经算子的规范不变谱 Transformer

机器学习 2026-05-13 v3

摘要

不规则网格上的神经算子面临根本性矛盾:谱位置编码是捕获几何结构的自然选择,要求三次复杂度的特征分解,并不可避免地通过数值求解器的副作用破坏规范不变性;现有的高效近似方法则以设计时牺牲规范对称性。两种失效模式都破坏离散化不变性:模型无法在同一领域不同分辨率的网格之间,或在不同但结构相关的图之间进行迁移。我们提出 GIST (Gauge-Invariant Spectral Transformer),一种可扩展神经算子,通过限制注意力仅聚焦于高效近似谱嵌入的两两内积来解决这一矛盾。我们证明这些内积在端到端 O(N)\mathcal{O}(N) 复杂度下估计一个恰好规范不变的图核,并在规范不变性与离散化不变学习之间建立形式联系,证明其在有界误差下的离散化不匹配。据我们了解,GIST 是首个具备可证明离散化不匹配界限的可扩展图神经算子。实验上,GIST 在 AirfRANS、ShapeNet-Car、DrivAerNet 和 DrivAerNet++ 等网格基准上取得最先进的结果(节点数最高达 75 万),此外在标准图基准上也与强大基准相当(例如在 PPI 上达到 99.50% 的微型 F1 分数)。

关键词

引用

@article{arxiv.2603.16849,
  title  = {GIST: Gauge-Invariant Spectral Transformers for Scalable Graph Neural Operators},
  author = {Mattia Rigotti and Nicholas Thumiger and Thomas Frick},
  journal= {arXiv preprint arXiv:2603.16849},
  year   = {2026}
}