中文

VA-MoE:基于变量自适应混合专家的增量天气预测

机器学习 2025-07-21 v2 大气与海洋物理

摘要

本文提出了变量自适应混合专家 (Variables Adaptive Mixture of Experts, VAMoE),一个用于增量天气预测的新型框架,能够动态适应实时数据中演变的时空模式。传统天气预测模型往往难以应对巨大的计算开销以及随新观测不断更新预测的需求。VAMoE 通过采用混合专家架构,其中每个专家专注于捕捉大气变量(温度、湿度、风速)的不同子模式。此外,该方法采用变量自适应门控机制,根据输入上下文动态选择和组合相关专家,以实现高效的知识蒸馏和参数共享。该设计显著降低了计算开销,同时保持高预测准确性。在真实世界的 ERA5 数据集上实验表明,VAMoE 在短期(1 天)和长期(5 天)预测任务中,与 SOTA 模型相当,仅使用约 25% 的可训练参数和 50% 的初始训练数据。

关键词

引用

@article{arxiv.2412.02503,
  title  = {VA-MoE: Variables-Adaptive Mixture of Experts for Incremental Weather Forecasting},
  author = {Hao Chen and Han Tao and Guo Song and Jie Zhang and Yunlong Yu and Yonghan Dong and Lei Bai},
  journal= {arXiv preprint arXiv:2412.02503},
  year   = {2025}
}

备注

This paper has already been accepted by ICCV25