基于语义增强的多尺度MLP-Mixer用于长期时间序列预测
机器学习
2026-02-19 v1
摘要
建模多尺度模式是长期时间序列预测(TSF)的关键任务。然而, 时间序列中的冗余和噪声, 以及非相邻尺度之间存在语义鸿沟, 使得高效对齐和集成多尺度时序依赖性具有挑战性。为此, 本文提出了SEMixer, 一个专为长期TSF设计的轻量级多尺度模型。SEMixer包含两个关键组件: 随机注意力机制(RAM)和多尺度渐进混合链(MPMC)。RAM在训练期间捕获多样化的时间-patch交互, 并通过dropout集成在推理阶段对其进行聚合, 从而增强patch级语义, 使MLP-Mixer能够更好地建模多尺度依赖性。MPMC进一步以低内存方式堆叠RAM和MLP-Mixer, 实现更有效的时序混合。这一方法解决了跨尺度的语义鸿沟, 并促进了更好的多尺度建模和预测性能。我们不仅在10个公开数据集上验证了SEMixer的有效性, 还在基于21GB真实无线网络数据的数据集上进行了2025年CCF AlOps挑战赛, 其中SEMixer取得了第三名。代码已公开于链接 https://github.com/Meteor-Stars/SEMixer。
引用
@article{arxiv.2602.16220,
title = {SEMixer: Semantics Enhanced MLP-Mixer for Multiscale Mixing and Long-term Time Series Forecasting},
author = {Xu Zhang and Qitong Wang and Peng Wang and Wei Wang},
journal= {arXiv preprint arXiv:2602.16220},
year = {2026}
}
备注
This work is accepted by the proceedings of the ACM Web Conference 2026 (WWW 2026). The code is available at the link https://github.com/Meteor-Stars/SEMixer