基于时间位置嵌入的灵活时间序列预测模型 D2Vformer
机器学习
2026-01-28 v1 人工智能
摘要
时间位置嵌入捕捉时间步的positional 信息，常作为辅助输入以提升时间序列模型的预测能力。然而，现有模型在捕捉复杂时间positional 信息和有效利用这些嵌入方面存在局限。为此，本文提出一种新型模型 D2Vformer。不同于依赖 RNN 或 Transformer 的常规预测方法，D2Vformer 能直接处理预测序列不相邻于输入序列或其长度动态变化的情形。与常规方法相比，D2Vformer 能显著节省训练资源。在 D2Vformer 中，Date2Vec 模块利用时间戳信息和特征序列生成时间位置嵌入。随后，D2Vformer 引入新型融合模块，采用注意力机制探索输入序列嵌入与预测序列嵌入之间的时间位置相似性，从而基于此相似性生成预测。通过对六个数据集的广泛实验，我们证明 Date2Vec 在其他时间位置嵌入方法中表现更优，D2Vformer 在固定长度和可变长度预测任务中超越了最先进的方法。
引用
@article{arxiv.2409.11024,
title = {D2Vformer: A Flexible Time Series Prediction Model Based on Time Position Embedding},
author = {Xiaobao Song and Hao Wang and Liwei Deng and Yuxin He and Wenming Cao and Chi-Sing Leungc},
journal= {arXiv preprint arXiv:2409.11024},
year = {2026}
}