物理信息神经网络优化的架构策略
机器学习
2024-02-06 v1
摘要
物理信息神经网络 (PINNs) 通过将深度学习与基本物理原理相结合，为求解偏微分方程 (PDEs) 的正问题和反问题提供了一条有前景的途径。尽管 PINNs 取得了显著的实证成功，但它们在各类 PDEs 的训练中因 notorious 的挑战而声名狼藉。在本文中，我们从神经网络架构的角度深入探讨 PINN 优化的复杂性。利用神经正切核 (NTK)，我们的研究表明，在有效训练 PINNs 方面，高斯激活函数优于几种替代激活函数。基于数值线性代数的见解，我们引入了一种预条件神经架构，展示了此类定制架构如何增强优化过程。我们的理论发现通过对科学文献中既定 PDEs 的严格验证得到了证实。
引用
@article{arxiv.2402.02711,
title = {Architectural Strategies for the optimization of Physics-Informed Neural Networks},
author = {Hemanth Saratchandran and Shin-Fang Chng and Simon Lucey},
journal= {arXiv preprint arXiv:2402.02711},
year = {2024}
}