MORPH：支持任意数据模态的偏微分方程基础模型
计算机视觉与模式识别
2026-01-30 v4 人工智能
机器学习
计算物理
摘要
我们介绍了 MORPH，一种用于偏微分方程（PDEs）的模态无关、自回归基础模型。MORPH 建立在卷积视觉 Transformer 主干网络之上，能够无缝处理具有不同数据模态（1D--3D）、不同分辨率以及混合标量和矢量分量的多物理场的异构时空数据集。该架构结合了 组件级卷积，联合处理标量和矢量通道以捕捉局部交互；场间交叉注意力，对不同物理场之间的信息进行建模和选择性传播；以及轴向注意力，沿单个空间和时间轴分解完整的时空自注意力，以在保持表达能力的同进降低计算负担。我们在多样化的异构 PDE 数据集上预训练了多个模型变体，并评估了其向一系列下游预测任务的迁移。使用全模型微调和参数高效的低秩适配器，MORPH 均优于从零开始训练的模型。在广泛的评估中，MORPH 匹配或超越了强大的基线模型和近期最先进的模型。总而言之，这些能力为从科学观测的异构和多模态特性中学习提供了一个灵活而强大的主干网络，为可扩展且数据高效的科学机器学习绘制了蓝图。源代码、数据集和模型已在 https://github.com/lanl/MORPH 公开。
引用
@article{arxiv.2509.21670,
title = {MORPH: PDE Foundation Models with Arbitrary Data Modality},
author = {Mahindra Singh Rautela and Alexander Most and Siddharth Mansingh and Bradley C. Love and Alexander Scheinker and Diane Oyen and Nathan Debardeleben and Earl Lawrence and Ayan Biswas},
journal= {arXiv preprint arXiv:2509.21670},
year = {2026}
}