用于高分辨率偏微分方程的多网格张量化傅里叶神经算子
机器学习
2023-10-03 v1
摘要
内存复杂度和数据稀缺性迄今为止阻碍了在高分辨率下学习偏微分方程(PDEs)的解算子。我们通过引入一种数据高效、高度可并行化且内存需求降低、泛化能力更好的新型算子学习方法——多网格张量化神经算子(MG-TFNO)——来解决这些局限。MG-TFNO 通过分解输入域和算子的参数空间,利用全尺度真实世界现象的局部与全局结构,扩展到大型分辨率。我们的贡献有三方面:i) 通过新颖的基于多网格的域分解实现输入样本上的并行化;ii) 通过全局张量分解将模型参数表示在傅里叶域的高阶潜在子空间中,从而极大幅度减少参数数量并改善泛化;iii) 对骨干 FNO 提出架构改进。我们的方法可用于任何算子学习场景。我们在湍流 Navier-Stokes 方程上展示了优越性能,以超过 150 倍的压缩率实现了不到一半的误差。张量化与域分解相结合,在不损失精度的情况下使参数数量减少超过 150 倍、域大小减少 7 倍,同时略微实现了并行性。
引用
@article{arxiv.2310.00120,
title = {Multi-Grid Tensorized Fourier Neural Operator for High-Resolution PDEs},
author = {Jean Kossaifi and Nikola Kovachki and Kamyar Azizzadenesheli and Anima Anandkumar},
journal= {arXiv preprint arXiv:2310.00120},
year = {2023}
}