中文

EIDOS:面向时间序列基础模型的潜在空间预测学习

机器学习 2026-02-17 v1 人工智能

摘要

大多数时间序列基础模型通过直接预测未来观测值来进行预训练,这往往导致捕获表面噪声而非连贯且可预测时序动力学的潜在表示结构较弱。本文介绍 EIDOS,一个基础模型家族,其预训练过程从未来值预测转向潜在空间预测学习。我们训练一个因果 Transformer 来预测潜在表示的演化,鼓励潜在状态的结构化和时序一致性。为确保潜在空间学习的稳定目标,我们设计了一个轻量级聚合分支来构建目标表示。EIDOS 通过集成潜在空间对齐、观测 grounding 以锚定表示与输入信号的关联,以及直接预测监督的联合目标进行优化。在 GIFT-Eval benchmark 上,EIDOS 缓解了表示空间的结构碎片化,实现了最先进的性能。这些结果表明,对模型约束其学习可预测潜在动力学是通向更稳健可靠的时间序列基础模型的原则性步骤。

关键词

引用

@article{arxiv.2602.14024,
  title  = {EIDOS: Latent-Space Predictive Learning for Time Series Foundation Models},
  author = {Xinxing Zhou and Qingren Yao and Yiji Zhao and Chenghao Liu and Flora Salim and Xiaojie Yuan and Yanlong Wen and Ming Jin},
  journal= {arXiv preprint arXiv:2602.14024},
  year   = {2026}
}