中文

GPT-PINN:面向参数化偏微分方程非侵入式元学习的生成式预训练物理信息神经网络

数值分析 2023-06-12 v3 机器学习 数值分析

摘要

物理信息神经网络(PINN)已证明自身是一种强大的工具,可利用深度神经网络的表达能力和现代异构硬件的计算能力来获得非线性偏微分方程(PDEs)的数值解。然而,其训练仍然耗时,尤其是在多查询和实时仿真设置中,并且其参数化往往过度冗余。在本文中,我们提出生成式预训练 PINN(GPT-PINN)以缓解参数化 PDEs 设置下的这两个挑战。GPT-PINN 代表了参数化系统一种全新的元学习范式。作为一个网络中的网络,其外层/元网络经过超降维,仅有一个隐藏层且神经元数量显著减少。此外,其每个隐藏神经元处的激活函数是一个在明智选择的系统配置下预训练的(完整)PINN。该元网络自适应地“学习”系统的参数依赖关系,并逐个神经元地“生长”该隐藏层。最终,通过包含在该组自适应选择的参数值处训练的极少数网络,该元网络能够准确且高效地为整个参数域上的参数化系统生成代理解。

关键词

引用

@article{arxiv.2303.14878,
  title  = {GPT-PINN: Generative Pre-Trained Physics-Informed Neural Networks toward non-intrusive Meta-learning of parametric PDEs},
  author = {Yanlai Chen and Shawn Koohy},
  journal= {arXiv preprint arXiv:2303.14878},
  year   = {2023}
}