通过准则对齐缓解PINNs中的梯度病理
机器学习
2026-05-26 v1
摘要
虽然物理信息神经网络（PINNs）在求解偏微分方程（PDE）方面具有强大功能，但其训练常因梯度病理而受阻。来自PDE残差和边界约束的梯度相互对立，将模型困于局部极小值中。当前解决方案，如自适应加权或硬约束，或未能从根本上解决该病理问题，或仅限于简单几何形状。在本研究中，我们从损失景观和优化动力学的角度系统性地分析了这种梯度病理的可能原因。基于获得的结论，我们提出了带有流形提升的准则对齐损失（CAML）。通过将所有零阶项重新表述为准则对齐，我们的方法有效缓解了梯度冲突。此外，我们引入了一个延迟因子，帮助优化器跳过高曲率区域。实验表明，CAML在高度复杂的PINN问题中显著提升了数值稳定性和效率。我们的代码已开源于https://github.com/YichenLuo-0/CAML。
引用
@article{arxiv.2605.25001,
title = {Mitigating Gradient Pathology in PINNs through Aligned Constraint},
author = {Yichen Luo and Peiyu Zhu and Dongxiao Hu and Jia Wang and Tailin Wu and Dapeng Lan and Yu Liu and Zhibo Pang},
journal= {arXiv preprint arXiv:2605.25001},
year = {2026}
}