UniTime:一种语言赋能的跨域时间序列预测统一模型
机器学习
2024-02-26 v3
摘要
多元时间序列预测在当代 Web 技术中起着关键作用。与为特定时间序列应用领域构建专用模型的常规方法不同,本研究倡导一种跨越领域边界的统一模型范式。然而,学习有效的跨域模型面临以下挑战。首先,各领域数据特征存在差异,例如变量数量,这对现有模型施加了这些因子的不灵活约束而造成障碍。其次,模型可能难以区分来自不同领域的数据,导致我们评估中的次优性能。第三,时间序列领域的多样收敛速率也会导致受损的实证性能。为解决这些问题,我们提出 UniTime 以进行有效跨域时间序列学习。具体而言,UniTime 可灵活适应具有不同特征的数据。它还使用领域指令与 Language-TS Transformer 来提供识别信息并对齐两种模态。此外,UniTime 采用掩码以缓解领域收敛速度不平衡问题。我们大量实验证明了 UniTime 在提升最先进预测性能与零样本可迁移性方面的有效性。
引用
@article{arxiv.2310.09751,
title = {UniTime: A Language-Empowered Unified Model for Cross-Domain Time Series Forecasting},
author = {Xu Liu and Junfeng Hu and Yuan Li and Shizhe Diao and Yuxuan Liang and Bryan Hooi and Roger Zimmermann},
journal= {arXiv preprint arXiv:2310.09751},
year = {2024}
}