通过能量自然梯度使PINNs达到高精度
机器学习
2023-08-16 v2 数值分析
数值分析
摘要
我们提出能量自然梯度下降，一种关于Hessian诱导黎曼度量的自然梯度方法，作为物理信息神经网络（PINNs）和深度Ritz方法的优化算法。作为一个主要动机，我们表明由能量自然梯度产生的函数空间中的更新方向对应于牛顿方向模去一个到模型切空间的正交投影。我们通过实验证明，能量自然梯度下降能产生高度精确的解，其误差比使用标准优化器（如梯度下降或Adam）训练PINNs所得误差小几个数量级，即便后者被允许显著更多的计算时间。
引用
@article{arxiv.2302.13163,
title = {Achieving High Accuracy with PINNs via Energy Natural Gradients},
author = {Johannes Müller and Marius Zeinhofer},
journal= {arXiv preprint arXiv:2302.13163},
year = {2023}
}
备注
Published version