基于 CNN 自编码器的评分注意力机制用于高效的多变量长期时间序列预测
机器学习
2025-05-06 v1 人工智能
摘要
多变量长期时间序列预测对于天气预测和交通分析等应用至关重要。此外,Transformer 变体的实现已提高了预测准确度。遵循这些变体,不同的输入数据处理方法也推动了该领域的发展,例如包括点级、通道级和 patch 级分词技术。然而,先前研究在时间复杂性、计算资源和跨维度相互作用方面仍存在局限性。为此,我们引入一种新颖的 CNN 自编码器基于评分注意力机制(CASA),该机制可以模型无关的方式引入 Transformer,通过降低内存占用并提高模型性能。在八个真实世界数据集上的实验表明,CASA 可将计算资源降低最高 77.7%,推理速度提升 44.0%,并在获得最先进性能方面取得优异成绩,在评估的 87.5% 的指标中名列第一。
引用
@article{arxiv.2505.02011,
title = {CASA: CNN Autoencoder-based Score Attention for Efficient Multivariate Long-term Time-series Forecasting},
author = {Minhyuk Lee and HyeKyung Yoon and MyungJoo Kang},
journal= {arXiv preprint arXiv:2505.02011},
year = {2025}
}