BlockGPT:通过帧级自回归实现降雨的时空建模
机器学习
2025-10-23 v2 人工智能
摘要
降水图预测是一项高度复杂的时空建模任务,对于减轻极端天气事件的影响至关重要。短期降水预报(即临近预报)需要模型不仅准确而且计算高效以实现实时应用。当前方法,如基于token的自回归模型,往往存在有缺陷的归纳偏置和推理缓慢的问题,而扩散模型可能计算密集。为解决这些限制,我们引入了BlockGPT,这是一种使用批处理分词(Block)方法的生成式自回归Transformer,在每个时间步预测完整的二维场(帧)。BlockGPT被构想为视频预测的模型无关范式,它通过每帧内的自注意力和跨帧的因果注意力来分解时空;在本工作中,我们将其实例化用于降水临近预报。我们在两个降水数据集上评估BlockGPT,即KNMI(荷兰)和SEVIR(美国),将其与最先进基线进行比较,包括基于token的方法(NowcastingGPT)和基于扩散的方法(DiffCast+Phydnet)。结果表明,BlockGPT在准确性和事件定位(通过分类指标衡量)方面取得了更优的性能,推理速度比可比基线快高达31倍。
引用
@article{arxiv.2510.06293,
title = {BlockGPT: Spatio-Temporal Modelling of Rainfall via Frame-Level Autoregression},
author = {Cristian Meo and Varun Sarathchandran and Avijit Majhi and Shao Hung and Carlo Saccardi and Ruben Imhoff and Roberto Deidda and Remko Uijlenhoet and Justin Dauwels},
journal= {arXiv preprint arXiv:2510.06293},
year = {2025}
}