基于平衡残差衰减率的自适应权重用于物理信息神经网络和深层算子网络

物理信息深度学习已成为求解偏微分方程的有前景的替代方法。然而，对于复杂问题，训练这些网络仍然具有挑战性，往往导致准确性和效率令人不满意。在本工作中，我们展示了纯物理信息神经网络失败的原因在于不同训练点残差收敛率之间的显著差异，其中收敛最慢的残差主导整体解的收敛。基于这些观察，我们提出了一种点自适应加权方法，在不同训练点之间平衡残差衰减率。我们将所提出的自适应加权方法与当前针对物理信息神经网络和物理信息深层算子网络的领先自适应加权方法进行比较。通过大量数值结果，我们展示了基于平衡残差衰减率的方法具有诸多优势，包括权重有界、高预测准确率、快速收敛率、低训练不确定性、低计算成本以及易于调参。