ClimaEmpact：面向极端天气分析的领域对齐型小型语言模型与数据集
计算与语言
2025-04-29 v1 人工智能
机器学习
大气与海洋物理
摘要
对极端天气事件的准确评估对研究和政策至关重要，但在世界许多地区仍缺乏局部和细粒度数据。这一数据差距限制了我们对极端天气事件潜在结果和影响进行分析的能力，阻碍了有效的决策。大型语言模型 (LLM) 能够处理海量非结构化文本数据，提取有意义的见解，并通过综合多个来源的信息生成详细的评估。此外，LLM 能够无缝将其通用语言理解能力转化为较小的模型，使这些模型在针对特定任务进行微调后仍能保留关键知识。本文提出了极端天气推理感知对齐 (EWRA) 方法，通过来自 LLM 推导的结构化推理路径来增强小型语言模型 (SLM)，并提出了 ExtremeWeatherNews——一个包含极端天气事件相关新闻的大型数据集。EWRA 和 ExtremeWeatherNews 共同构成了整个框架 ClimaEmpact，旨在解决三个关键极端天气任务：可感知漏洞/影响的分类、主题标记和情感分析。在将 EWRA 与来自 ExtremeWeatherNews（以及专用于 SLM 对齐的数据集 ExtremeAlign）进行对齐后，EWRA 提升了 SLM 在极端天气分析任务中生成 well-grounded 和领域特定响应的能力。我们的结果表明，该方法引导 SLM 输出领域对齐的响应，超越了任务特定模型的性能，并为极端天气分析提供了更好的实际应用前景。
引用
@article{arxiv.2504.19066,
title = {ClimaEmpact: Domain-Aligned Small Language Models and Datasets for Extreme Weather Analytics},
author = {Deeksha Varshney and Keane Ong and Rui Mao and Erik Cambria and Gianmarco Mengaldo},
journal= {arXiv preprint arXiv:2504.19066},
year = {2025}
}