面向物理信息深度学习的多目标损失平衡
机器学习
2025-09-30 v2 人工智能
摘要
物理信息神经网络(PINN)是一类来自深度学习的算法,通过将偏微分方程及相应的边界和初始条件作为惩罚项纳入其损失函数以利用物理定律。在本工作中,我们观察到正确加权多个竞争性损失函数的组合对于有效训练 PINN 具有重要作用。为此,我们实现并评估了旨在平衡 PINN 损失函数多项及其梯度贡献的不同方法。在回顾三种现有损失缩放方法(学习率退火、GradNorm 和 SoftAdapt)后,我们提出了一种名为 ReLoBRaLo(带随机回看的相对损失平衡)的 PINN 新型自适应损失平衡方案。我们通过在三个 PINN 基准偏微分方程上求解正向与逆向问题,对前述平衡方案的性能进行了广泛评估:Burgers 方程、Kirchhoff 板弯曲方程和 Helmholtz 方程。结果表明,ReLoBRaLo 在精度方面能够持续优于现有缩放方法的基线,同时带来的计算开销也显著更少。
引用
@article{arxiv.2110.09813,
title = {Multi-Objective Loss Balancing for Physics-Informed Deep Learning},
author = {Rafael Bischof and Michael Kraus},
journal= {arXiv preprint arXiv:2110.09813},
year = {2025}
}