tsGT：基于 Transformer 的随机时间序列建模
机器学习
2024-04-04 v3
摘要
时间序列方法在几乎所有处理时间结构数据的科学领域中都至关重要。最近，具有时间序列特定架构偏置的确定性 Transformer 模型激增。在本文中，我们另辟蹊径，引入了 tsGT，一个建立在通用 Transformer 架构上的随机时间序列模型。我们专注于使用一种众所周知且具有理论依据的滚动窗口回测和评估协议。我们表明，在四个常用数据集上，tsGT 在 MAD 和 RMSE 上优于 SOTA 模型，并在 QL 和 CRPS 上超越了其随机同类模型。我们补充了这些结果，对 tsGT 建模数据分布和预测边缘分位数值的能力进行了详细分析。
关键词
引用
@article{arxiv.2403.05713,
title = {tsGT: Stochastic Time Series Modeling With Transformer},
author = {Łukasz Kuciński and Witold Drzewakowski and Mateusz Olko and Piotr Kozakowski and Łukasz Maziarka and Marta Emilia Nowakowska and Łukasz Kaiser and Piotr Miłoś},
journal= {arXiv preprint arXiv:2403.05713},
year = {2024}
}