VE：利用变量嵌入建模多元时间序列相关性
机器学习
2024-11-01 v2
摘要
多元时间序列预测依赖于准确捕捉变量之间的相关性。当前的通道独立（CI）模型和具有 CI 最终投影层的模型无法捕捉这些依赖关系。在本文中，我们提出了变量嵌入（VE）流程，该流程为每个变量学习一个独特且一致的嵌入，并将其与专家混合（MoE）和低秩适应（LoRA）技术相结合，以在控制参数规模的同时提升预测性能。VE 流程可以集成到任何具有 CI 最终投影层的模型中，以改进多元预测。学习到的 VE 能有效地将具有相似时间模式的变量分组，并将相关性低的变量分开。通过在四个广泛使用的数据集上的实验，证明了 VE 流程的有效性。代码可在以下地址获取：https://github.com/swang-song/VE。
引用
@article{arxiv.2409.06169,
title = {VE: Modeling Multivariate Time Series Correlation with Variate Embedding},
author = {Shangjiong Wang and Zhihong Man and Zhenwei Cao and Jinchuan Zheng and Zhikang Ge},
journal= {arXiv preprint arXiv:2409.06169},
year = {2024}
}