CoST:用于时间序列预测的解耦季节-趋势表征对比学习
机器学习
2022-05-06 v3
摘要
深度学习在时间序列预测中已被积极研究,其主流范式基于神经网络架构的端到端训练,从经典的 LSTM/RNN 到更近期的 TCN 和 Transformer。受表征学习在计算机视觉与自然语言处理中近期成功的启发,我们认为时间序列预测的一个更有前景的范式是:先学习解耦的特征表征,再接一个简单的回归微调步骤——我们从因果视角论证了这样一种范式。遵循该原则,我们提出了一种用于时间序列预测的新时间序列表征学习框架 CoST,其应用对比学习方法来学习解耦的季节-趋势表征。CoST 包含时域与频域对比损失,分别用于学习有判别性的趋势与季节表征。在真实世界数据集上的大量实验表明,CoST 始终以可观的幅度优于 SOTA 方法,在多变量基准上 MSE 提升 21.3%。它对骨干编码器以及下游回归器的各种选择也具有鲁棒性。代码见 https://github.com/salesforce/CoST。
引用
@article{arxiv.2202.01575,
title = {CoST: Contrastive Learning of Disentangled Seasonal-Trend Representations for Time Series Forecasting},
author = {Gerald Woo and Chenghao Liu and Doyen Sahoo and Akshat Kumar and Steven Hoi},
journal= {arXiv preprint arXiv:2202.01575},
year = {2022}
}