中文

面向决策导向变量的概率性 Transformer:联合建模全球天气动力学

机器学习 2026-01-08 v1

摘要

天气预报位于诸多高风险决策的上游,如电网运维、航空、农业和灾害应对。然而,预报用户常面临困难的权衡。许多决策相关目标是大气状态变量的函数,如极值、累积值和阈值超越,而非状态变量本身。结果,用户必须通过后处理来估计这些目标,这可能次优且会引入结构性偏差。核心问题在于,决策依赖于这些函数的分布,而模型并未直接学习这些分布。在本工作中,我们引入 GEM-2,一款概率性 Transformer,联合学习全球大气动力学以及一套用户直接可行动的变量。通过这种训练配方,我们展示,一个轻量级(约275百万参数)且计算高效(相对于最先进技术训练速度快约20-100倍)的 Transformer 在 CRPS 目标下训练,可直接超越操作性数值天气预报(NWP)模型,与依赖昂贵多步扩散过程或需要专门多阶段微调策略的 ML 模型竞争。我们进一步展示了在决策理论评估下的领先经济价值指标,稳定地在 S2S 和季节尺度上收敛至气候统计特性,以及对许多常被假设的架构和训练设计选择的意外不敏感性。

关键词

引用

@article{arxiv.2601.03753,
  title  = {Probabilistic Transformers for Joint Modeling of Global Weather Dynamics and Decision-Centric Variables},
  author = {Paulius Rauba and Viktor Cikojevic and Fran Bartolic and Sam Levang and Ty Dickinson and Chase Dwelle},
  journal= {arXiv preprint arXiv:2601.03753},
  year   = {2026}
}