LETS-C：利用文本嵌入进行时间序列分类
机器学习
2025-06-03 v2 人工智能
计算工程、金融与科学
计算与语言
统计方法学
摘要
语言建模的最新进展在应用于时间序列数据时显示出有希望的结果。特别是，针对时间序列分类任务微调预训练的大语言模型（LLM）已在标准基准上取得了最先进的性能。然而，这些基于LLM的模型由于模型规模庞大（可训练参数数量达数百万）而存在显著缺陷。在本文中，我们提出了一种替代方法，以利用语言建模在时间序列领域的成功。我们不微调LLM，而是利用文本嵌入模型来嵌入时间序列，然后将嵌入与由卷积神经网络（CNN）和多层感知器（MLP）组成的简单分类头配对。我们在一个成熟的时间序列分类基准上进行了广泛的实验。我们证明了LETS-C不仅在分类准确率上超越了当前最先进水平，而且还提供了一个轻量级解决方案，其平均可训练参数仅为最先进模型的14.5%。我们的研究结果表明，利用文本嵌入模型对时间序列数据进行编码，并结合简单而有效的分类头，为在保持轻量级模型架构的同时实现高性能时间序列分类提供了一个有前景的方向。
引用
@article{arxiv.2407.06533,
title = {LETS-C: Leveraging Text Embedding for Time Series Classification},
author = {Rachneet Kaur and Zhen Zeng and Tucker Balch and Manuela Veloso},
journal= {arXiv preprint arXiv:2407.06533},
year = {2025}
}
备注
ACL 2025 (Main Conference)