物理信息神经网络中优化器的探究
机器学习
2023-03-28 v1 人工智能
计算物理
摘要
本文提出了一种关于优化器选择对物理信息神经网络（PINNs）精度影响的新颖比较。为深入洞察某些优化器更优的原因，我们提出了一种追踪训练轨迹曲率的新方法，该方法可在训练中以较低计算成本实时评估。我们针对若干平流速度研究了线性平流方程，并表明优化器的选择对 PINNs 模型的性能与精度有显著影响。此外，利用曲率度量，我们发现收敛误差与优化器局部参考系中的曲率呈负相关。由此得出结论：在此情形下，较大的局部曲率值会带来更好的解。因此，PINNs 的优化变得更加困难，因为极小值位于高曲率区域。
引用
@article{arxiv.2303.15196,
title = {Probing optimisation in physics-informed neural networks},
author = {Nayara Fonseca and Veronica Guidetti and Will Trojak},
journal= {arXiv preprint arXiv:2303.15196},
year = {2023}
}
备注
Accepted at the ICLR 2023 Workshop on Physics for Machine Learning