上下文内算子网络的 PDE 泛化：关于一维标量非线性守恒律的研究
机器学习
2024-01-23 v2 人工智能
数值分析
数值分析
摘要
我们能否为广泛的偏微分方程（PDE）相关科学学习任务构建一个单一的大型模型？该模型能否在无需任何微调的情况下泛化到新的 PDE，甚至是新形式的 PDE？上下文内算子学习及其对应模型“上下文内算子网络”（ICON）代表了对这些问题的初步探索。ICON 针对第一个问题的能力此前已得到证实。在本文中，我们提出了使用 ICON 求解 PDE 问题的详细方法，并展示了在提供适当设计的数据提示下，单个 ICON 模型如何针对不同方程以不同步长进行正向和反向预测。我们对第二个问题展示了正面证据，即 ICON 无需任何微调即可良好泛化到某些新形式的 PDE。这一点通过对具有时间演化特性的一维标量非线性守恒律这一 PDE 家族的研究得到了例证。我们还展示了如何通过转换函数和方程以扩展 ICON 的能力范围，从而拓宽 ICON 模型可解决的问题领域。我们相信，本文的进展是在上下文内算子学习框架下训练 PDE 相关任务基础模型目标的重要一步。
引用
@article{arxiv.2401.07364,
title = {PDE Generalization of In-Context Operator Networks: A Study on 1D Scalar Nonlinear Conservation Laws},
author = {Liu Yang and Stanley J. Osher},
journal= {arXiv preprint arXiv:2401.07364},
year = {2024}
}