超越 PINNs 梯度病理的做法：变量分割策略及其收敛性分析
机器学习
2024-10-01 v1 数值分析
数值分析
摘要
物理信息神经网络(PINNs)最近涌现出作为求解各种问题中偏微分方程( PDE)的有效方法。大量研究聚焦于 PINNs 因预测不准确而频繁出现的失效模式，但大多数基于 minimizing loss function to zero 即网络收敛到 governing PDE 的解的前提。在本研究中，我们证明了 PINNs 遇到了根本性问题，即该前提是无效的。我们还揭示了这一问题源于无法调节预测解导数的行为。受到 PINNs 梯度病理的启发，我们提出了一种变量分割策略，通过将解的梯度参数化为辅助变量来解决此问题。我们演示了使用该辅助变量可避免梯度病理，从而实现对预测解梯度的直接监控和调节。此外，我们证明了所提方法保证对二阶线性 PDE 收敛到广义解，表明其适用于各种问题。
引用
@article{arxiv.2409.20383,
title = {Beyond Derivative Pathology of PINNs: Variable Splitting Strategy with Convergence Analysis},
author = {Yesom Park and Changhoon Song and Myungjoo Kang},
journal= {arXiv preprint arXiv:2409.20383},
year = {2024}
}