基于主动学习的神经伽略金格式求解高维演化方程
数值分析
2024-03-01 v4 机器学习
数值分析
机器学习
摘要
深度神经网络已被证明可在高维下提供准确函数逼近。然而，拟合网络参数需要信息丰富的训练数据，而在科学与工程应用中这类数据往往难以获取。本工作提出基于深度学习的神经伽略金格式，其通过主动学习生成训练数据，用于数值求解高维偏微分方程。神经伽略金格式建立在Dirac-Frenkel变分原理之上，通过随时间顺序最小化残差来训练网络，从而能够以由偏微分方程所描述的动力学引导的自信息方式自适应收集新训练数据。这不同于其他旨在全局拟合网络参数而不考虑训练数据获取的机器学习方法。我们的发现是，所提神经伽略金格式这种主动收集训练数据的形式，是数值实现网络高维表达力的关键。数值实验表明，神经伽略金格式有潜力模拟具多变量的现象与过程——对此传统及其他基于深度学习的求解器均告失败，尤其是当解的特征局部演化时，如高维波传播问题及由Fokker-Planck与动理论方程描述的相互作用粒子系统。
引用
@article{arxiv.2203.01360,
title = {Neural Galerkin Schemes with Active Learning for High-Dimensional Evolution Equations},
author = {Joan Bruna and Benjamin Peherstorfer and Eric Vanden-Eijnden},
journal= {arXiv preprint arXiv:2203.01360},
year = {2024}
}