ArchesWeather 与 ArchesWeatherGen:用于高效机器学习天气预报的确定性模型与生成式模型
摘要
天气预报在当今社会中发挥着至关重要的作用,从农业、物流到预测可再生能源产出,以及应对极端天气事件。以预测下一状态为目标在 ERA5 上训练的深度学习天气预报模型,相比于数值全球环流模型取得了巨大成功。然而,对于广泛的应用而言,能够从可能的未来天气状态分布中提供代表性样本是至关重要的。在本文中,我们提出了一种利用确定性天气预报模型来设计概率天气预报模型的方法,从而提升性能并降低计算成本。我们首先引入了 \textbf{ArchesWeather},一种基于 Transformer 的确定性模型,通过移除过度限制的归纳偏置改进了 Pangu-Weather。随后,我们基于流匹配(扩散模型的一种现代变体)设计了一个名为 \textbf{ArchesWeatherGen} 的概率天气预报模型,该模型被训练以将 ArchesWeather 的预测投影到 ERA5 天气状态分布上。ArchesWeatherGen 是 ERA5 的真正随机仿真器,在 WeatherBench 的所有主要变量上(除了 NeuralGCM 的重力势)超越了 IFS ENS 和 NeuralGCM。我们的工作还旨在利用学术计算资源,推动确定性模型与生成式机器学习模型在天气预报研究中的普及。所有模型均在 1.5{\deg} 分辨率下训练,ArchesWeather 的训练预算约为 9 个 V100 天,ArchesWeatherGen 约为 45 个 V100 天。在推理阶段,ArchesWeatherGen 在单张 A100 GPU 卡上以每集合成员 1 分钟的速率生成 15 天的天气轨迹。为了使我们的工作完全可复现,我们的代码和模型已开源,包括数据准备、训练和评估的完整流程,网址为 https://github.com/INRIA/geoarches 。
引用
@article{arxiv.2412.12971,
title = {ArchesWeather & ArchesWeatherGen: a deterministic and generative model for efficient ML weather forecasting},
author = {Guillaume Couairon and Renu Singh and Anastase Charantonis and Christian Lessig and Claire Monteleoni},
journal= {arXiv preprint arXiv:2412.12971},
year = {2024}
}
备注
Preprint