面向增强时间序列分类的层次化多模态 LLM 及语义空间对齐
机器学习
2025-12-22 v2
摘要
时间序列分类在广泛的实际应用中发挥着基本作用。最近,大语言模型(LLM)显示出强大的泛化和推理能力,但直接将其应用于时间序列分类仍然具有挑战性 due to 数值序列与语言语义之间的表示差距。在本文中,我们提出 HiTime,一个基于层次化 LLM 的多模态时间序列分类框架,通过生成式范式将结构化的时间表征与语义推理对齐。具体而言,我们设计了一个层次化序列特征编码模块,由数据特定编码器和任务特定编码器组成,以提取互补的时间特征。为缓解时间序列表征与文本语义之间的嵌入差距,我们进一步引入语义空间对齐模块,联合执行粗粒度全局建模和细粒度跨模态对应。基于上述表征,我们采用参数高效的监督微调策略,以激活对齐后 LLM 的生成式分类能力,从而将传统的判别式时间序列分类转化为生成式任务。大量实验表明,所提出的框架在多个基准数据集上 consistently 优于最先进的基线方法。代码已公开于 https://github.com/Xiaoyu-Tao/HiTime。
引用
@article{arxiv.2410.18686,
title = {Hierarchical Multimodal LLMs with Semantic Space Alignment for Enhanced Time Series Classification},
author = {Xiaoyu Tao and Tingyue Pan and Mingyue Cheng and Yucong Luo and Qi Liu and Enhong Chen},
journal= {arXiv preprint arXiv:2410.18686},
year = {2025}
}