中文

用于改进动力学模型数据同化一致性的雅可比矩阵强制神经网络(JENN)

机器学习 2024-12-03 v1 大气与海洋物理

摘要

基于机器学习的天气模型在 producing accurate forecasts 方面显示出巨大的前景,但在数据同化任务中却与传统数值天气预报(NWP)模型相比持续困扰。本研究引入了雅可比矩阵强制神经网络(JENN)框架,以增强神经网络(NN)模拟的动力学系统在数据同化(DA)中的一致性。以 Lorenz 96 模型为例,演示了该方法通过对雅可比矩阵关系的显式强制实现了 NN 在 DA 任务中更广泛的适用性。该 NN 架构包括 40 个神经元的输入层、两个具有 256 个单元的隐藏层,采用双曲正切激活函数,以及不带激活的 40 个神经元的输出层。JENN 框架采用两阶段训练过程:初始阶段使用标准的预测-标签对建立基线 forecast 能力,随后在第二个阶段结合定制的损失函数以强制准确的雅可比矩阵关系。该损失函数将预测值与真实状态值之间的均方根误差(RMSE)与额外的切向线性(TL)和伴随(AD)模拟结果的 RMSE 结合在一起,加权以平衡 forecast 准确性和雅可比矩阵灵敏度。为确保一致性,第二个训练阶段使用来自物理模型计算的额外的 TL/AD 输入和标签对。值得注意的是,该方法无需从头开始或对 NN 结构进行修改,使其能够立即应用于已预训练的模型,如 GraphCast、NeuralGCM、Pangu 或 FuXi,以最少的重新配置适用于 DA 任务。实验结果表明,JENN 框架保持了非线性 forecast 性能的同时,显著降低了 TL 和 AD 组件以及整个雅可比矩阵中的噪声。

关键词

引用

@article{arxiv.2412.01013,
  title  = {Jacobian-Enforced Neural Networks (JENN) for Improved Data Assimilation Consistency in Dynamical Models},
  author = {Xiaoxu Tian},
  journal= {arXiv preprint arXiv:2412.01013},
  year   = {2024}
}