理解与缓解物理信息神经网络的外推失效
机器学习
2023-11-28 v2
摘要
物理信息神经网络（PINNs）近年来因利用深度神经网络（DNNs）有效逼近偏微分方程（PDEs）而广受欢迎。然而，它们的域外行为尚未被充分理解，先前的研究推测解函数中的高频成分可能是导致外推性能不佳的原因。在本文中，我们研究 PINNs 在一组具有代表性的不同类型 PDEs（包括高维 PDEs）上的外推行为。我们发现外推失败并非由解函数中的高频引起，而是由傅里叶谱支撑随时间发生偏移所致。我们称这些谱偏移为 spectral shifts，并通过引入加权 Wasserstein-傅里叶距离（WWF）对其进行量化。我们表明 WWF 可用于预测 PINN 的外推性能，并且在无明显谱偏移时，即便在外推情形下 PINN 预测仍接近真实解。最后，我们提出一种基于迁移学习的策略来缓解较大谱偏移的影响，该策略将外推误差最多降低 82%。
引用
@article{arxiv.2306.09478,
title = {Understanding and Mitigating Extrapolation Failures in Physics-Informed Neural Networks},
author = {Lukas Fesser and Luca D'Amico-Wong and Richard Qiu},
journal= {arXiv preprint arXiv:2306.09478},
year = {2023}
}