StockTime：一种用于股票价格预测的时间序列专用大语言模型架构
统计金融
2024-09-16 v1 人工智能
计算工程、金融与科学
机器学习
摘要
股票价格预测任务在金融领域扮演着重要角色，并已被长期研究。近期，大语言模型（LLM）为改进这些预测带来了新途径。尽管近期的金融大语言模型（FinLLM）在金融NLP任务中相比较小的预训练语言模型（PLM）展现出显著进展，但在股票价格预测方面仍存在挑战。首先，有效整合时间序列数据与自然语言模态以充分利用这些能力依然复杂。其次，FinLLM更侧重于分析与可解释性，这可能忽略时间序列数据的基本特征。此外，由于金融市场中充斥着大量虚假与冗余信息，模型在面对此类输入数据时往往产生准确性较低的预测。本文提出StockTime，一种专门为股票价格数据设计的基于LLM的新型架构。与近期的FinLLM不同，StockTime专为股票价格时间序列数据设计。它利用LLM预测下一个token的自然能力，将股票价格视为连续token，直接从这些股票价格中提取诸如股票相关性、统计趋势和时间戳等文本信息。随后，StockTime将文本与时间序列数据整合至嵌入空间中。通过融合这种多模态数据，StockTime能在任意回溯期内有效预测股票价格。实验表明，StockTime优于近期的LLM，它在降低内存使用与运行时间成本的同时给出了更准确的预测。
引用
@article{arxiv.2409.08281,
title = {StockTime: A Time Series Specialized Large Language Model Architecture for Stock Price Prediction},
author = {Shengkun Wang and Taoran Ji and Linhan Wang and Yanshen Sun and Shang-Ching Liu and Amit Kumar and Chang-Tien Lu},
journal= {arXiv preprint arXiv:2409.08281},
year = {2024}
}