EMAformer：通过嵌入装甲增强 Transformer 以进行时间序列预测
机器学习
2025-11-12 v1
摘要
多变量时间序列预测在广泛的领域内至关重要。虽然 Transformer 架构取得了显著的进展，但 iTransformer 仍落后于最新的基于 MLP 的模型。我们将这一绩效差距归因于信道之间关系的不稳定性。为弥合这一差距，我们提出了 EMAformer，一种简单而有效的模型，通过引入一个类似于增强其能力的“装甲”的辅助嵌入套件来增强 Transformer。通过引入三种关键归纳偏置，即“全局稳定性”、“相位敏感性”和“跨轴特异性”，EMAformer 释放了 Transformer 架构的进一步潜力，在 12 个真实基准上实现了最先进的性能，并将 MSE 和 MAE 的预测误差分别平均降低 2.73% 和 5.15%。这显著 advances Transformer-based 方法在多变量时间序列预测中的实际应用。代码已在 https://github.com/PlanckChang/EMAformer 上提供。
关键词
引用
@article{arxiv.2511.08396,
title = {EMAformer: Enhancing Transformer through Embedding Armor for Time Series Forecasting},
author = {Zhiwei Zhang and Xinyi Du and Xuanchi Guo and Weihao Wang and Wenjuan Han},
journal= {arXiv preprint arXiv:2511.08396},
year = {2025}
}
备注
14 pages, 9 figures, 6 tables, accepted by AAAI2026