中文

ProPINN:揭秘物理信息神经网络中的传播失效现象

机器学习 2025-05-20 v2

摘要

物理信息神经网络(PINN)在求解偏微分方程(PDE)方面被寄予厚望,但由于其独特的依赖导数的损失函数,其优化通常面临棘手的挑战。通过分析损失分布,先前的研究观察到了 PINN 的传播失效现象,直观描述为对模型输出的正确监督无法从初始状态或边界“传播”到内部域。超越直观理解,本文对传播失效及其根本原因进行了形式化且深入的研究。基于与经典有限元方法的详细比较,我们将该失效归因于 PINN 传统的单点处理架构,并进一步证明传播失效本质上是由 PINN 模型在邻近配点上较低的梯度相关性造成的。与表面的损失图相比,这一新视角提供了一个更精确的定量标准,以识别 PINN 在何处以及为何失效。这一理论发现也启发我们提出了一种新的 PINN 架构,名为 ProPINN,它能够有效地联合区域点的梯度以实现更好的传播。ProPINN 能够可靠地解决 PINN 的失效模式,并以 46% 的相对提升显著超越基于 Transformer 的先进模型。

关键词

引用

@article{arxiv.2502.00803,
  title  = {ProPINN: Demystifying Propagation Failures in Physics-Informed Neural Networks},
  author = {Haixu Wu and Yuezhou Ma and Hang Zhou and Huikun Weng and Jianmin Wang and Mingsheng Long},
  journal= {arXiv preprint arXiv:2502.00803},
  year   = {2025}
}