S$^2$Transformer：用于全球站点天气预报的可扩展结构 Transformer
机器学习
2025-09-26 v2 大气与海洋物理
摘要
全球站点天气预报（GSWF）是重要的气象研究领域，直接关系到能源、航空和农业。现有的预测方法往往忽略或单向建模空间相关性，从而限制了大规模全球站点预测的性能。为此，本文提出一种新型空间结构注意力块（Spatial Structured Attention Block）。它将空间图划分为若干子图，并在每个子图内部实例化局部注意力（Intra-subgraph Attention）以学习子图内部的局部空间相关性，随后将节点聚合为子图表示，通过子图间注意力（Inter-subgraph Attention）进行子图间信息传递——同时考虑空间邻近性和全局相关性。基于该注意力块，我们构建了一个多尺度时空预测模型 STransformer，通过逐步扩大子图尺度实现可扩展性，同时能够产生结构化的空间相关性，而且实现简单。实验结果表明，该模型在低运行成本下可相较于时序预测基线提升最高 16.8%。
关键词
引用
@article{arxiv.2509.19648,
title = {S$^2$Transformer: Scalable Structured Transformers for Global Station Weather Forecasting},
author = {Hongyi Chen and Xiucheng Li and Xinyang Chen and Yun Cheng and Jing Li and Kehai Chen and Liqiang Nie},
journal= {arXiv preprint arXiv:2509.19648},
year = {2025}
}
备注
arXiv admin note: substantial text overlap with arXiv:2509.18115