中文

ENMA:用于生成神经 PDE 算子的标记逐词自回归

机器学习 2025-12-12 v3

摘要

求解时依赖的参数偏微分方程(PDE)仍是神经求解器的根本挑战,尤其是在跨广泛物理参数和动力学范围的泛化方面。当数据不确定或不完整时——这正是常见情况——一种自然的方法是转向生成模型。我们引入 ENMA,一种用于建模由物理现象引起的时空动力学的生成神经算子。ENMA 通过在压缩后的潜在空间中预测未来动力学,使用基于流匹配损失训练的生成掩码自回归 transformer,实现标记逐词生成。通过注意力机制将不规则采样的空间观测编码为均匀的潜在表示,并通过时空卷积编码器进一步压缩。这使得 ENMA 能够在推理时进行 in-context 学习,通过对目标轨迹的过去状态或具有相似动力学的辅助上下文轨迹进行条件化。结果是一个稳健且可适应的框架,能够泛化到新的 PDE 场景,并支持时依赖参数 PDE 的一次性代理建模。

关键词

引用

@article{arxiv.2506.06158,
  title  = {ENMA: Tokenwise Autoregression for Generative Neural PDE Operators},
  author = {Armand Kassaï Koupaï and Lise Le Boudec and Louis Serrano and Patrick Gallinari},
  journal= {arXiv preprint arXiv:2506.06158},
  year   = {2025}
}