数据 vs. 物理:物理信息神经网络的表观帕累托前沿
机器学习
2024-06-11 v2
摘要
物理信息神经网络(PINNs)已成为一种有前景的深度学习方法,能够求解由微分方程控制的向前与反问题。尽管近期取得进展,但广为人知的是 PINNs 难以训练,且当数据与物理损失函数在多目标(MO)问题的标量化处理中结合时,常需要对损失权重仔细调参。本文旨在理解物理系统的参数(如特征长度与时间尺度、计算域以及微分方程系数)如何影响 MO 优化及损失权重的最优选择。通过对这些系统参数在 PINN 训练中出现位置的理论考察,我们发现它们有效且分别地缩放损失残差,在某些系统参数选择下导致 MO 优化的不平衡。其直接影响反映在表观帕累托前沿上,我们将其定义为基于梯度的训练可实现的损失值集合并相应可视化。我们经验性地验证损失权重可成功用于补偿系统参数的缩放,并能够在表观帕累托前沿上选取与物理解高度一致的最优解。我们进一步证明,通过改变系统参数化,表观帕累托前沿可发生移动并呈现局部凸部分,从而在更大范围的损失权重下使基于梯度的训练取得成功。本工作解释了系统参数对 PINNs 中 MO 优化的影响,并凸显了所提损失加权方案的效用。
引用
@article{arxiv.2105.00862,
title = {Data vs. Physics: The Apparent Pareto Front of Physics-Informed Neural Networks},
author = {Franz M. Rohrhofer and Stefan Posch and Clemens Gößnitzer and Bernhard C. Geiger},
journal= {arXiv preprint arXiv:2105.00862},
year = {2024}
}
备注
11 pages