一种用于物理信息神经网络的新型元学习初始化方法
机器学习
2022-06-14 v1
摘要
物理信息神经网络（PINNs）已被广泛用于求解各种科学计算问题。然而，庞大的训练成本限制了PINNs在某些实时应用中的使用。尽管已有一些工作提出用于提升PINNs的训练效率，但鲜少有研究考虑初始化的影响。为此，我们提出了一种基于新Reptile初始化的物理信息神经网络（NRPINN）。原始的Reptile算法是一种基于标签数据的元学习初始化方法。通过将偏微分方程（PDEs）作为惩罚项加入损失函数中，PINNs可以在较少标签数据甚至无任何标签数据的情况下进行训练。受此启发，我们提出新的Reptile初始化，从参数化PDEs中采样更多任务，并调整损失的惩罚项。这种新的Reptile初始化可以通过监督、无监督和半监督学习从相关任务中获取初始化参数。随后，具有初始化参数的PINNs能够高效求解PDEs。此外，新的Reptile初始化也可用于PINNs的变体。最后，我们通过正问题和逆问题对NRPINN进行了演示和验证，正问题包括求解Poisson、Burgers和Schrödinger方程，逆问题则是估计PDEs中的未知参数。实验结果表明，与其他初始化方法的PINNs相比，NRPINN的训练速度要快得多，且精度更高。
引用
@article{arxiv.2107.10991,
title = {A novel meta-learning initialization method for physics-informed neural networks},
author = {Xu Liu and Xiaoya Zhang and Wei Peng and Weien Zhou and Wen Yao},
journal= {arXiv preprint arXiv:2107.10991},
year = {2022}
}