物理信息神经网络的 Sobolev 训练
数值分析
2021-12-09 v2 数值分析
摘要
物理信息神经网络（PINNs）是深度学习的一种有前景的应用。全连接神经网络的平滑结构适用于求解偏微分方程（PDEs）；相应的损失函数亦可直观设计，并保证对各种 PDEs 的收敛性。然而，收敛速度一直被视为该方法的弱点。本文提出 Sobolev-PINNs，一种用于 PINNs 训练的新型损失函数，使训练效率大幅提高。受近期将导数信息纳入神经网络训练的研究启发，我们设计了一种损失函数，引导神经网络在相应的 Sobolev 空间中减小误差。令人惊讶的是，尽管 PINNs 并非完全监督学习任务，对损失函数的简单修改即可使训练过程类似于 Sobolev 训练（Sobolev Training）。我们给出了若干理论依据，证明所提损失函数对粘性 Burgers 方程和动力学 Fokker--Planck 方程在相应 Sobolev 空间中的误差给出上界。我们还给出了若干仿真结果，表明与传统 损失函数相比，所提损失函数引导神经网络实现显著更快的收敛。此外，我们提供了经验证据，表明所提损失函数与迭代采样技术结合，在求解高维 PDEs 时表现更优。
引用
@article{arxiv.2101.08932,
title = {Sobolev Training for Physics Informed Neural Networks},
author = {Hwijae Son and Jin Woo Jang and Woo Jin Han and Hyung Ju Hwang},
journal= {arXiv preprint arXiv:2101.08932},
year = {2021}
}