中文

用于时间序列预测的解码器仅架构基础模型

计算与语言 2024-04-19 v4 人工智能 机器学习

摘要

受近期大语言模型在自然语言处理(NLP)中进展的启发,我们设计了一个用于预测的时间序列基础模型,其在多种公开数据集上的开箱即用零样本性能接近各单独数据集上最先进监督预测模型的精度。我们的模型基于在大规模时间序列语料上预训练一个分块解码器风格注意力模型,且能良好适配不同的预测历史长度、预测长度与时间粒度。

关键词

引用

@article{arxiv.2310.10688,
  title  = {A decoder-only foundation model for time-series forecasting},
  author = {Abhimanyu Das and Weihao Kong and Rajat Sen and Yichen Zhou},
  journal= {arXiv preprint arXiv:2310.10688},
  year   = {2024}
}