OmniCast：面向不同时间尺度的掩码式潜在扩散模型
机器学习
2025-10-22 v1
摘要
跨时间尺度的准确天气预报对于anticipate and缓解气候变化的影响至关重要。最近基于深度学习的数据驱动方法在中期天气预报中取得了显著成功，但由于自回归方法中的误差累积，在更长的亚季节-季节(S2S)时段仍面临挑战。本文提出OmniCast，一个可扩展且技能十足的概率模型，用于统一跨时间尺度的天气预报。OmniCast由两个组件构成：一个将原始天气数据编码到连续低维潜在空间的VAE模型，以及一个基于扩散的Transformer模型，给定初始条件标记生成未来一系列潜在标记。在训练期间，我们随机掩码未来的标记，并训练Transformer根据条件和可见标记估计其分布，使用每个标记的扩散头。在推断期间，Transformer通过迭代解掩码随机标记子集来生成完整的未来标记序列。这种在空间和时间上的联合采样缓解了自回归方法中的累积误差。低维潜在空间使我们能够对未来大量潜在状态进行建模，使Transformer能够学习超出初始条件的天气动力学。OmniCast在中期时间尺度上与领先的概率方法保持竞争力，速度快10倍到20倍，在亚季节-季节尺度上在准确性、基于物理的和概率指标上实现了最佳性能。此外，我们展示了OmniCast能够生成最高可达100年前的稳定预测。代码和模型检查点已在https://github.com/tung-nd/omnicast上提供。
关键词
引用
@article{arxiv.2510.18707,
title = {OmniCast: A Masked Latent Diffusion Model for Weather Forecasting Across Time Scales},
author = {Tung Nguyen and Tuan Pham and Troy Arcomano and Veerabhadra Kotamarthi and Ian Foster and Sandeep Madireddy and Aditya Grover},
journal= {arXiv preprint arXiv:2510.18707},
year = {2025}
}
备注
Neural Information Processing Systems (NeurIPS 2025)