ANaGRAM:一种针对PINNs学习的自然梯度方法
机器学习
2025-03-20 v2 人工智能
数值分析
数值分析
最优化与控制
摘要
近年来,受到较大关注的是物理信息神经网络(Physics Informed Neural Networks,PINNs)作为求解驱动偏微分方程系统的有效方法,特别是用于数据同化。然而,该方法仍处于初步阶段,许多缺点和失败问题尚未得到充分理解。本文提出了一种针对PINNs的自然梯度方法,以加快训练速度并提高训练精度。基于对问题微分几何结构的深入分析,我们提出了两个独立贡献:(i)一种新的自然梯度算法,其计算规模为 ,其中 为参数数量, 为批量大小;(ii)一种对PINNs问题的数学原理化重构,使自然梯度得以扩展应用,并与Green函数理论建立了 proved 连接。
引用
@article{arxiv.2412.10782,
title = {ANaGRAM: A Natural Gradient Relative to Adapted Model for efficient PINNs learning},
author = {Nilo Schwencke and Cyril Furtlehner},
journal= {arXiv preprint arXiv:2412.10782},
year = {2025}
}
备注
accepted in ICLR 2025