一种用于时空天气预报的带偏移窗口交叉注意力的新型 Transformer 网络
计算机视觉与模式识别
2022-08-03 v1
摘要
地球观测是一个不断增长的研究领域，可利用 AI 的力量进行短时预报（即临近预报场景）。本工作中，我们应对使用视频 transformer 网络进行天气预报的挑战。Vision transformer 架构已在多种应用中被探索，其主要限制为注意力的计算复杂性与对数据饥渴的训练。为解决这些问题，我们提出使用 Video Swin-Transformer，并配合专门的增强方案。此外，我们在编码器侧采用渐进空间缩减，在解码器侧采用交叉注意力。所提方法在 Weather4Cast2021 天气预报挑战数据上测试，该数据需要从每小时天气产品序列预测未来 8 小时帧（每小时 4 帧）。数据集被归一化至 0-1 以方便跨不同数据集使用评估指标。该模型在提供训练数据时 MSE 得分为 0.4750，而在不使用训练数据的迁移学习中为 0.4420。
引用
@article{arxiv.2208.01252,
title = {A Novel Transformer Network with Shifted Window Cross-Attention for Spatiotemporal Weather Forecasting},
author = {Alabi Bojesomo and Hasan Al Marzouqi and Panos Liatsis},
journal= {arXiv preprint arXiv:2208.01252},
year = {2022}
}
备注
16 pages, 7 figures, 7 tables