耦合在线学习作为应对神经网络参数化中不稳定性与偏差的途径
大气与海洋物理
2020-03-25 v4 计算物理
摘要
在过去几年中，机器学习参数化已成为改进地球系统模型(ESMs)中次网格过程表征的潜在途径。迄今为止，所有研究均基于相同的三步法：首先从高精度分辨率模拟创建训练数据集，随后将机器学习算法拟合于该数据集，之后将训练好的算法植入ESM。由此产生的在线模拟常受不稳定性与偏差困扰。此处，提出耦合在线学习作为应对这些问题的途径。耦合学习可视为第二训练阶段，其中预训练的机器学习参数化（具体为神经网络）与高分辨率模拟并行运行。高分辨率模拟通过持续 nudging 与神经网络驱动的ESM保持同步。这使得神经网络能够从高分辨率模拟若经历神经网络所生成状态将会产生的趋势中学习。该概念利用Lorenz 96模型说明，其中耦合学习能够恢复“真实”参数化。进一步，给出了在3D云解析模型与超级参数化框架中实现耦合学习的详细算法。最后，讨论了该途径尚未解决的突出挑战与问题。
引用
@article{arxiv.1907.01351,
title = {Coupled online learning as a way to tackle instabilities and biases in neural network parameterizations},
author = {Stephan Rasp},
journal= {arXiv preprint arXiv:1907.01351},
year = {2020}
}
备注
Code and interactive notebook available at https://github.com/raspstephan/Lorenz-Online; see https://doi.org/10.5194/gmd-2019-319 for journal version