Time Tracker：解耦训练管道的混合专家增强基础时间序列预测模型
机器学习
2026-03-19 v2
摘要
过去几年，时间序列基础模型取得了卓越的预测准确率。然而，现实中的时间序列在不同时间跨度和领域常呈现显著的模式多样性，单一模型架构难以适用于所有复杂场景。此外，时间序列数据可能包含多个变量之间存在复杂关联。近期主流方法在预训练和微调阶段均以通道独立方式建模，忽略了跨序列间依赖的价值。为此，我们提出 Time Tracker 以更好地预测多变量时间序列数据。首先，我们在 Transformer 中引入稀疏混合专家 (MoE)，处理多样化时间序列模式，减轻单一模型的学习难度并提升其泛化能力。此外，我们提出 Any-variate Attention，实现统一模型结构可无缝处理单变量和多变量时间序列，从而支持预训练时的通道独立建模和微调时的通道混合建模。进一步，我们设计图学习模块从频域特征构建序列间关系，为通道混合建模中捕捉跨序列依赖提供更精确的指导。基于这些突破，Time Tracker 在预测准确率、模型泛化和适应性方面实现了最先进的性能。
引用
@article{arxiv.2505.15151,
title = {Time Tracker: Mixture-of-Experts-Enhanced Foundation Time Series Forecasting Model with Decoupled Training Pipelines},
author = {Aobo Liang and Yan Sun and Xiaohou Shi and Ke Li},
journal= {arXiv preprint arXiv:2505.15151},
year = {2026}
}