面向环境神经过程的 Sim2Real 方法
机器学习
2023-11-01 v1 大气与海洋物理
摘要
基于机器学习（ML）的天气模型近来取得了快速进展。这些模型通常在来自数值资料同化系统的网格化再分析数据上训练。然而，再分析数据存在局限性，例如对物理定律的假设以及较低的时空分辨率。再分析数据与真实情况之间的差距引发了直接在气象站等观测数据上训练 ML 模型日益增长的兴趣。对分散且稀疏的环境观测进行建模需要可扩展且灵活的 ML 架构，其中之一是卷积条件神经过程（ConvCNP）。ConvCNP 可以学习以网格化和离网格上下文数据为条件，在目标位置做出具有不确定性感知的预测。然而，真实观测的稀疏性对 ConvCNP 这类数据饥渴的深度学习模型提出了挑战。一个潜在的解决方案是“Sim2Real”：在再分析数据上预训练并在观测数据上微调。我们使用一个经训练用于插值德国地表气温的 ConvCNP，采用不同数量的气象站进行微调，来分析 Sim2Real。在留出气象站上，Sim2Real 训练明显优于仅用再分析数据或仅用站点数据训练的相同模型架构，表明再分析数据可作为从真实观测中学习的踏脚石。因此，Sim2Real 能够实现更精确的天气预测和气候监测模型。
引用
@article{arxiv.2310.19932,
title = {Sim2Real for Environmental Neural Processes},
author = {Jonas Scholz and Tom R. Andersson and Anna Vaughan and James Requeima and Richard E. Turner},
journal= {arXiv preprint arXiv:2310.19932},
year = {2023}
}
备注
4 pages, 3 figures, To be published in Tackling Climate Change with Machine Learning workshop at NeurIPS