面向物理信息神经网络中梯度冲突的每损失适配器
机器学习
2026-05-12 v1
摘要
物理信息神经网络(PINN)通过最小化多个物理和数据导出的损失来训练单个神经近似器,但这些损失的梯度经常相互干扰并可能使优化停滞。现有的补救措施通常通过标量损失平衡或全参数空间梯度手术来处理这种病态,但不清楚哪种干预最为合适。我们表明,PINN 梯度冲突并非具有单一通用补救措施的统一失效模式。相反,我们识别出不同的 PINN 梯度冲突机制,每种机制关联着不同的干预类别。持续的方向性冲突可能需要独立的按损失索引的参数子空间,幅度不平衡通常有利于标量重加权,而低冲突或瞬态冲突可能不需要额外缓解。为了在标量重加权和轻量级架构干预之间进行选择,我们提出了一个诊断优先的框架。它分析一个 1000 步的未修改 PINN 运行,并在干预有保证时,为每个损失使用一个低秩适配器,以创建附加到共享 PINN 主干上的显式按损失索引的参数子空间,为每个损失提供直接的梯度路径。在超过 60 个 PDE 配置中,包括前向、逆向、多物理场、参数变化以及高达 50 维的高维问题,持续的方向性冲突在标准前向 基准和自然 热弹性系统中占主导地位,其中适配器与重加权结合产生了显著改进。相比之下, 逆问题和自然 及 多物理场系统在很大程度上由幅度主导,通常仅有利于重加权,而全参数空间梯度手术在异构参数空间上可能会失败。
引用
@article{arxiv.2605.10136,
title = {Per-Loss Adapters for Gradient Conflict in Physics-Informed Neural Networks},
author = {Bum Jun Kim and Gnankan Landry Regis N'guessan},
journal= {arXiv preprint arXiv:2605.10136},
year = {2026}
}
备注
49 pages, 10 figures