从算子预条件视角看物理信息机器学习中的训练
机器学习
2024-05-06 v2
摘要
在本文中，我们研究了物理信息机器学习方法（如 PINNs）中梯度下降算法的行为，这些方法最小化与偏微分方程（PDEs）相关的残差。我们的关键结果是，训练这些模型的困难与特定微分算子的条件数密切相关。该算子又关联到基础 PDE 微分算子的厄米平方。如果该算子病态，会导致训练缓慢或不可行。因此，对该算子进行预条件处理至关重要。我们采用严格的数学分析和经验评估来研究各种策略，解释它们如何更好地条件化这一关键算子，从而改善训练。
引用
@article{arxiv.2310.05801,
title = {An operator preconditioning perspective on training in physics-informed machine learning},
author = {Tim De Ryck and Florent Bonnet and Siddhartha Mishra and Emmanuel de Bézenac},
journal= {arXiv preprint arXiv:2310.05801},
year = {2024}
}