WeatherGFM:通过上下文学习构建天气通用基础模型
机器学习
2024-12-10 v2 人工智能
计算机视觉与模式识别
大气与海洋物理
摘要
地球天气系统包含复杂的天气数据模态和多样化的天气理解任务,对人类生活具有重要价值。现有的数据驱动模型聚焦于单一天气理解任务(如天气预报)。尽管这些模型已取得有前景的结果,但它们无法在单一统一模型中处理各种复杂任务。此外,依赖有限真实观测的单一场景范式限制了模型性能的上限。针对这些局限性,我们从最先进的视觉基础模型和大语言模型中采用的上下文学习范式汲取灵感。本文提出了首个天气通用基础模型(WeatherGFM),旨在以统一方式应对广泛的天气理解任务。具体而言,我们首先统一了多样化天气理解任务的表示和定义。随后,我们设计了天气提示格式以管理不同的天气数据模态,即单一模态、多重模态和时间模态。最后,我们采用视觉提示问答范式进行统一天气理解任务的训练。大量实验表明,我们的 WeatherGFM 可有效处理多达十种天气理解任务,包括天气预报、超分辨率、天气图像转换和后处理。我们的方法在未见任务上也展现了泛化能力。
引用
@article{arxiv.2411.05420,
title = {WeatherGFM: Learning A Weather Generalist Foundation Model via In-context Learning},
author = {Xiangyu Zhao and Zhiwang Zhou and Wenlong Zhang and Yihao Liu and Xiangyu Chen and Junchao Gong and Hao Chen and Ben Fei and Shiqi Chen and Wanli Ouyang and Xiao-Ming Wu and Lei Bai},
journal= {arXiv preprint arXiv:2411.05420},
year = {2024}
}