使用保留-重采样-释放（R3）采样缓解物理信息神经网络中的传播失败
机器学习
2023-06-09 v3 人工智能
摘要
尽管物理信息神经网络（PINNs）在近似偏微分方程（PDEs）方面取得了成功，但在涉及复杂 PDE 的问题中，PINNs 有时无法收敛到正确解。这反映在近期若干刻画 PINNs “失败模式”的研究中，尽管对 PINN 失败模式与采样策略之间联系的深入理解尚显不足。在本文中，我们通过假设 PINNs 的训练依赖于解从初始和/或边界条件点向内部点的成功“传播”，提供了 PINN 失败模式的新视角。我们表明，若发生以高度不平衡的 PDE 残差场为特征的传播失败，采用糟糕采样策略的 PINNs 会陷入平凡解。为缓解传播失败，我们提出了一种新颖的保留-重采样-释放采样（R3）算法，该算法能以极少甚至无计算开销的方式，在 PDE 残差高的区域逐步累积配点。我们提供了 R3 采样的扩展，以在求解含时 PDE 时尊重因果原理。我们从理论上分析了 R3 采样的行为，并在多种 PDE 问题上通过实证展示了其相较于基线的有效性与高效性。
引用
@article{arxiv.2207.02338,
title = {Mitigating Propagation Failures in Physics-informed Neural Networks using Retain-Resample-Release (R3) Sampling},
author = {Arka Daw and Jie Bu and Sifan Wang and Paris Perdikaris and Anuj Karpatne},
journal= {arXiv preprint arXiv:2207.02338},
year = {2023}
}
备注
39 pages, 53 figures, 6 tables