EMTSF：时序预测中 SOTA 模型的最佳混合模型
计算与语言
2025-10-28 v1 人工智能
摘要
Transformer 架构在自然语言处理中的巨大成功，已导致其在时序预测（TSF）中的采用，后者显示出优异的性能。然而，近期一篇重要论文通过演示一个简单的单层线性模型超越 Transformer 模型而质疑了其有效性。随后有研究表明，这一结论并不那么有效，由一个更好的基于 Transformer 的模型（PatchTST）实现。更近期，TimeLLM 通过将大型语言模型（LLM）用于 TSF 领域，显示出更好的结果。再后续的论文又挑战了这一点，通过表明去除 LLM 组件或用基本注意力层替换后实际上可获得更好的性能。预测的挑战之一在于 TSF 数据偏好最近的过去，可能受到不可预测事件的影响。基于这些在 TSF 领域的最新见解，我们提出了一个强大的专家混合（MoE）框架。我们的方法将包括 xLSTM、增强线性模型、PatchTST 和 minGRU 等在内的 SOTA 模型相结合。这些互补且多样化的 TSF 模型集成到一个基于 Transformer 的 MoE 门控网络中。我们提出的模型在标准基准测试中超越了所有现有的 TSF 模型，甚至超过了最新基于 MoE 框架的方法。
引用
@article{arxiv.2510.23396,
title = {EMTSF:Extraordinary Mixture of SOTA Models for Time Series Forecasting},
author = {Musleh Alharthi and Kaleel Mahmood and Sarosh Patel and Ausif Mahmood},
journal= {arXiv preprint arXiv:2510.23396},
year = {2025}
}