中文

Unisolver:迈向通用神经 PDE 求解器的 PDE 条件 Transformer

机器学习 2025-09-05 v5 人工智能 数值分析 数值分析

摘要

深度模型最近已成为求解偏微分方程(PDE)的有前景工具,被称为神经 PDE 求解器。虽然从模拟数据或物理信息损失训练的神经求解器可以相当好地求解 PDE,但它们主要局限于少数 PDE 实例,例如具有有限系数集的特定方程。这限制了它们对各种 PDE 的泛化能力,使其无法成为数值求解器的实用代理模型。在本文中,我们提出了 Unisolver,这是一种在多样化数据上训练并以多样化 PDE 为条件的新型 Transformer 模型,旨在成为一种能够求解广泛 PDE 的通用神经 PDE 求解器。Unisolver 并非单纯扩大数据和参数规模,而是源于对 PDE 求解过程的理论分析。受 PDE 数学结构(即 PDE 解从根本上受一系列 PDE 组件(如方程符号和边界条件)控制)的启发,我们定义了一套完整的 PDE 组件,并将其灵活地嵌入为 Transformer PDE 求解器的域级和点级深度条件。Unisolver 将物理见解与近期 Transformer 的进展相结合,在三个具有挑战性的大规模基准测试上取得了一致的最先进水平,展现出令人印象深刻的性能和泛化能力。代码可在 https://github.com/thuml/Unisolver 获取。

关键词

引用

@article{arxiv.2405.17527,
  title  = {Unisolver: PDE-Conditional Transformers Towards Universal Neural PDE Solvers},
  author = {Hang Zhou and Yuezhou Ma and Haixu Wu and Haowen Wang and Mingsheng Long},
  journal= {arXiv preprint arXiv:2405.17527},
  year   = {2025}
}