SEER：通过自动 patch 增强与替换实现基于 Transformer 的鲁棒时间序列预测
机器学习
2026-02-03 v1
摘要
时间序列预测在需要准确预测以做出决策的诸多领域中至关重要。分割技术在时间序列建模中常用且有效，通过将数据划分为多个 patch 来捕获时序依赖性。然而，现有的基于 patch 的方法无法动态选择 patch，通常在预测过程中使用所有 patch。在现实世界的时间序列中，数据收集期常存在 low-quality 问题，如缺失值、分布迁移、异常值和白噪声，这可能导致某些 patch 包含低质�信息，从而负面影响预测结果。为此，本研究提出一种鲁棒时间序列预测框架，称为 SEER。首先，我们提出增强嵌入模块 (Augmented Embedding Module)，通过混合专家 (Mixture-of-Experts, MoE) 架构改进 patch 级别的表示，并通过 channel-adaptive perception 机制获取 series 级别的 token 表示。其次，我们引入可学习 patch 替换模块 (Learnable Patch Replacement Module)，通过两个阶段的 process 来提升预测鲁棒性和模型准确性：1) 动态过滤机制消除负面的 patch 级别 token；2) 替换注意力模块用 global series 级别 token 替换识别出的 low-quality patch，进一步通过因果注意力机制细化其表示。全面实验结果表明，SEER 在性能上达到 SOTA 水平。
引用
@article{arxiv.2602.00589,
title = {SEER: Transformer-based Robust Time Series Forecasting via Automated Patch Enhancement and Replacement},
author = {Xiangfei Qiu and Xvyuan Liu and Tianen Shen and Xingjian Wu and Hanyin Cheng and Bin Yang and Jilin Hu},
journal= {arXiv preprint arXiv:2602.00589},
year = {2026}
}