只需 FP64：重新思考物理信息神经网络中的失效模式
机器学习
2025-12-01 v2
摘要
物理信息神经网络 (PINN) 常出现的失效模式是：PDE 残差损失收敛，但解的误差保持较大，此现象传统上归因于被真实解隔开的陡峭损失障壁所致的局部最优点。我们挑战了这种理解，通过表明真正的罪魁是算术精度不足：在标准 FP32 下，LBFGS 优化器会提前满足其收敛测试，将网络冻结在虚假的失效相位中。仅将其升级为 FP64 即可拯救优化，使基础 PINN 能够在无任何失效模式的情况下求解 PDE。我们的结果将 PINN 失效模式重新定义为精度诱导的停滞，而非不可逃避的局部极小值，并揭示了由未收敛、失效、成功三个阶段构成的训练动态，其边界随数值精度而变化。我们的发现强调，严格的算术精度是确保神经网络可靠求解 PDE 的关键。
引用
@article{arxiv.2505.10949,
title = {FP64 is All You Need: Rethinking Failure Modes in Physics-Informed Neural Networks},
author = {Chenhui Xu and Dancheng Liu and Amir Nassereldine and Jinjun Xiong},
journal= {arXiv preprint arXiv:2505.10949},
year = {2025}
}