MCformer：基于混合通道 Transformer 的多变量时间序列预测
机器学习
2024-03-15 v1 信号处理
摘要
大规模物联网（IoT）设备产生海量时间序列数据，这需要探索更有效的多变量时间序列预测模型。在以往的模型中，主要采用通道依赖（CD）策略（其中每个通道代表一个单变量序列）。当前最先进的（SOTA）模型主要依赖通道独立（CI）策略。CI 策略将所有通道视为单一通道，通过扩展数据集来提高泛化性能，并避免通道间相关性破坏长期特征。然而，CI 策略面临通道间相关性遗忘的挑战。为解决这一问题，我们提出了一种创新的混合通道策略，该策略结合了 CI 策略的数据扩展优势与对抗通道间相关性遗忘的能力。基于此策略，我们引入了 MCformer，一种具有混合通道特征的多变量时间序列预测模型。该模型混合特定数量的通道，利用注意力机制在建模长期特征时有效捕获通道间相关性信息。实验结果表明，混合通道策略在多变量时间序列预测任务中优于纯 CI 策略。
引用
@article{arxiv.2403.09223,
title = {MCformer: Multivariate Time Series Forecasting with Mixed-Channels Transformer},
author = {Wenyong Han and Tao Zhu Member and Liming Chen and Huansheng Ning and Yang Luo and Yaping Wan},
journal= {arXiv preprint arXiv:2403.09223},
year = {2024}
}