Mlinear:重新审视时间序列预测的线性模型
机器学习
2023-08-04 v2 人工智能
摘要
近来,时间序列预测研究取得了显著进展,研究重点日益转向分析时间序列数据的本质特性,例如通道独立(CI)与通道依赖(CD),而非仅关注设计复杂的预测模型。然而,当前研究主要孤立地聚焦于 CI 或 CD,如何有效结合这两种对立特性以实现协同效应仍是一个未解决的问题。本文仔细考察了 CI 与 CD 的对立特性,并提出了一个尚未被有效回答的实际问题,例如“如何有效混合时间序列的 CI 与 CD 特性以获得更好的预测性能?”为回答该问题,我们提出了 Mlinear(MIX-Linear),一种主要基于线性层的简单而有效的方法。Mlinear 的设计哲学主要包括两方面:(1)基于不同输入时间序列的时间语义动态调谐 CI 与 CD 特性;(2)提供深度监督以调整“CI 预测器”与“CD 预测器”各自的性能。此外,通过实证,我们引入了一种新的损失函数,其在多个数据集上显著优于广泛使用的均方误差(MSE)。在涵盖多个领域且被广泛使用的时序数据集上的实验表明,在 7 个数据集相同序列输入(336 或 512)下,我们的方法在 MSE 与 MAE 指标上优于最新的基于 Transformer 的方法 PatchTST。具体而言,在 336 序列长度输入时我们的方法以 21:3 的比例显著优于 PatchTST,在 512 序列长度输入时以 29:10 的比例优于之。此外,综合考虑训练与推理时间,我们的方法在单位级别上具有 10 的效率优势。
引用
@article{arxiv.2305.04800,
title = {Mlinear: Rethink the Linear Model for Time-series Forecasting},
author = {Wei Li and Xiangxu Meng and Chuhao Chen and Jianing Chen},
journal= {arXiv preprint arXiv:2305.04800},
year = {2023}
}
备注
24 pages,4 figure,7 tables