SutraNets:用于长序列概率预测的子序列自回归网络
机器学习
2023-12-25 v1 人工智能
摘要
我们提出了 SutraNets,一种用于长序列时间序列神经概率预测的新方法。SutraNets 使用自回归生成模型将长序列的似然分解为条件概率的乘积。在生成长序列时,大多数自回归方法都会受到有害的误差累积以及建模长距离依赖关系困难的影响。SutraNets 将长的一元预测视为对低频子序列的多元预测。自回归在时间维度和子序列之间进行,以确保连贯的多元(进而高频一元)输出。由于子序列可以用更少的步骤生成,SutraNets 有效地减少了误差累积和信号路径距离。我们发现,在六个真实世界数据集上,SutraNets 显著提高了预测准确性,优于具有竞争力的替代方案,包括在我们改变子序列数量并扩大底层序列模型深度和宽度时也是如此。
引用
@article{arxiv.2312.14880,
title = {SutraNets: Sub-series Autoregressive Networks for Long-Sequence, Probabilistic Forecasting},
author = {Shane Bergsma and Timothy Zeyl and Lei Guo},
journal= {arXiv preprint arXiv:2312.14880},
year = {2023}
}