离散偏微分方程的神经闭合模型比较

神经闭合模型近期被提出作为一种利用神经网络高效逼近多尺度系统中小尺度变化的方法。损失函数的选择及相关的训练过程对所得神经闭合模型的准确性和稳定性有重大影响。在本工作中，我们系统地比较了三种不同的方法：“导数拟合”、“先离散后优化”的“轨迹拟合”以及“先优化后离散”的“轨迹拟合”。导数拟合在概念上最简单且计算效率最高，发现在其中一个测试问题（Kuramoto-Sivashinsky）上表现良好，但在另一个问题（Burgers）上表现不佳。轨迹拟合的计算成本更高但更鲁棒，因而是首选方法。在两种轨迹拟合方法中，“先离散后优化”方法比“先优化后离散”方法能产生更准确的模型。尽管“先优化后离散”方法仍能产生准确的模型，但必须注意选择用于训练的轨迹长度，以便在训练长期行为的同时仍能在训练期间产生合理准确的梯度。本文以新颖的方式解释了两个现有定理，从而基于神经闭合模型在短期的准确性来洞察其长期的准确性。