物理信息神经网络及其时间分解的因果扫描策略统一可扩展框架
计算物理
2023-09-20 v2 机器学习
摘要
物理信息神经网络（PINN）作为求解偏微分方程（PDE）的方法，在计算科学与工程（CS&E）领域引起了广泛关注。然而，最近的一个关注点是探索各种训练（即优化）挑战——特别是在无数据求解时间依赖的前向 PDE 时，到达优化景观中较差的局部极小值会导致 PINN 近似给出劣质甚至平凡的解。这个问题在诸如使用 XPINN 的时间分解等区域分解策略中也存在，且在某种意义上更为困难。我们为不同的训练挑战、其成因以及它们与信息传播和时间分解的关系提供了示例和解释。然后我们提出了一种新的堆叠分解方法，弥合了时间推进 PINN 和 XPINN 之间的差距。我们还通过使用迁移学习概念初始化域中的子网络，以及基于损失容差的子域传播，引入了显著的计算加速。最后，受先前 PINN 因果性文献启发，我们提出了一种新的时间扫描配置点算法，我们的框架仍可描述该算法，并通过降低成本的配置点分割提供了显著的计算加速。所提出的方法构成了我们的统一框架，该框架通过尊重多种形式的因果性并限制每次优化迭代所需的计算量来改善可扩展性，从而克服了时间依赖 PDE 中 PINN 和 XPINN 的训练挑战。最后，我们针对未修改的 PINN 和 XPINN 难以训练的基准 PDE 问题提供了这些方法的数值结果。
引用
@article{arxiv.2302.14227,
title = {A unified scalable framework for causal sweeping strategies for Physics-Informed Neural Networks (PINNs) and their temporal decompositions},
author = {Michael Penwarden and Ameya D. Jagtap and Shandian Zhe and George Em Karniadakis and Robert M. Kirby},
journal= {arXiv preprint arXiv:2302.14227},
year = {2023}
}