PINN求解对流扩散方程的神经正切核分析
计算物理
2022-11-22 v1 机器学习
摘要
物理信息神经网络（PINNs）通过将偏微分方程（PDE）的残差及其初边值条件纳入损失函数，数值逼近PDE的解。尽管取得了部分成功，已知PINNs即使在存在闭式解析解的简单情形中也会遇到困难。为了更好地理解PINNs的学习机制，本文利用神经正切核（NTK）理论对线性对流扩散方程（LAD）的PINNs进行系统分析。借助NTK分析，研究并阐明了对流速度/扩散参数对PINNs训练动态的影响。我们表明，PINNs的训练困难源于1）所谓的谱偏置，导致难以学习高频行为；以及2）不同损失分量间收敛速率的差异导致训练失败。后者即使在其底层PDE解不呈现高频行为的情形中也会发生。此外，我们观察到这种训练困难在对流主导和扩散主导机制中在一定程度上表现出不同。文中也讨论了解决这些问题的不同策略。特别地，证明了周期激活函数可用于部分解决谱偏置问题。
引用
@article{arxiv.2211.11716,
title = {Neural tangent kernel analysis of PINN for advection-diffusion equation},
author = {M. H. Saadat and B. Gjorgiev and L. Das and G. Sansavini},
journal= {arXiv preprint arXiv:2211.11716},
year = {2022}
}