中文

TyphoFormer:用于精确台风路径预测的语言增强 Transformer

计算与语言 2025-11-25 v3 机器学习

摘要

精确的台风路径预测对于早期预警和灾害响应至关重要。虽然基于 Transformer 的模型在建模智慧城市中人类和车辆密集轨迹的时间动态方面表现出色,但它们通常缺乏获取更广泛上下文知识的能力,而这些知识能够增强稀疏气象轨迹(如台风路径)预测的可靠性。为了应对这一挑战,我们提出了 TyphoFormer,一种将自然语言描述作为辅助提示以改进台风轨迹预测的新框架。对于每个时间步,我们使用大语言模型 (LLM) 根据北大西洋飓风数据库中记录的数值属性生成简洁的文本描述。这些语言描述捕获了高层次的气象语义,并作为辅助特殊标记嵌入到数值时间序列输入之前。通过在统一的 Transformer 编码器中集成文本和序列信息,TyphoFormer 使模型能够利用仅通过数值特征无法获取的上下文线索。我们在 HURDAT2 基准上进行了大量实验,结果表明 TyphoFormer 始终优于其他最先进的基线方法,特别是在涉及非线性路径偏移和有限历史观测的挑战性场景下。

关键词

引用

@article{arxiv.2506.17609,
  title  = {TyphoFormer: Language-Augmented Transformer for Accurate Typhoon Track Forecasting},
  author = {Lincan Li and Eren Erman Ozguven and Yue Zhao and Guang Wang and Yiqun Xie and Yushun Dong},
  journal= {arXiv preprint arXiv:2506.17609},
  year   = {2025}
}

备注

Accepted by ACM SIGSPATIAL 2025. Received SIGSPATIAL '25 Best Short Paper Award