深度伽辽金法与 PINNs 方法求解偏微分方程的全局收敛性
数值分析
2023-05-11 v1 机器学习
数值分析
摘要
高维偏微分方程（PDEs）的数值求解是一项重大挑战。有限差分法等传统方法由于维数灾难而无法求解高维 PDE。近年来，人们开发了多种深度学习方法，试图通过用神经网络逼近解来求解高维 PDE。在本文中，我们证明了常用于求解 PDE 的深度学习算法之一——深度伽辽金法（DGM）的全局收敛性。DGM 使用随机梯度下降训练神经网络逼近器以求解 PDE。我们证明，随着单层网络中隐藏单元数量趋于无穷（即“宽网络极限”），训练后的神经网络收敛到无穷维线性常微分方程（ODE）的解。随着训练时间 ，极限逼近器的 PDE 残差收敛到零。在温和假设下，该收敛性还意味着神经网络逼近器收敛到 PDE 的解。一类与 DGM 密切相关的 PDE 深度学习方法为物理信息神经网络（PINNs）。利用相同的数学技巧，我们可以证明 PINN 神经网络逼近器类似的全局收敛结果。两个证明都需要分析极限 ODE 中控制极限神经网络逼近器演化的核函数。一个关键的技术挑战是，该核函数作为 PDE 算子与神经正切核（NTK）算子的复合，缺乏谱隙，因此需要仔细分析其性质。
引用
@article{arxiv.2305.06000,
title = {Global Convergence of Deep Galerkin and PINNs Methods for Solving Partial Differential Equations},
author = {Deqing Jiang and Justin Sirignano and Samuel N. Cohen},
journal= {arXiv preprint arXiv:2305.06000},
year = {2023}
}