FECAM：面向时间序列预测的频率增强通道注意力机制
人工智能
2022-12-05 v1 信号处理
摘要
时间序列预测是一项长期存在的挑战，因为真实世界信息处于多种场景中（如能源、天气、交通、经济、地震预警）。然而一些主流预测模型的预测结果严重偏离真实值。我们认为原因在于模型缺乏捕捉频率信息的能力，而真实世界数据集中富含此类信息。目前主流的频率信息提取方法基于傅里叶变换（FT）。然而，由于吉布斯现象，FT 的使用存在问题。若序列两侧数值差异显著，会在两侧观察到振荡近似并引入高频噪声。因此我们提出一种新颖的频率增强通道注意力，基于离散余弦变换自适应建模通道间频率相互依赖关系，其从本质上避免傅里叶变换中有问题的周期性所导致的高频噪声，即吉布斯现象。我们表明该网络在六个真实世界数据集上泛化极为有效并取得最先进性能，并进一步证明频率增强通道注意力机制模块可灵活应用于不同网络。该模块能以极少代码量和轻微计算代价提升现有主流网络的预测能力，在 LSTM 上降低 35.99% MSE，在 Reformer 上降低 10.01%，在 Informer 上降低 8.71%，在 Autoformer 上降低 8.29%，在 Transformer 上降低 8.06% 等。我们的代码与数据见 https://github.com/Zero-coder/FECAM。
引用
@article{arxiv.2212.01209,
title = {FECAM: Frequency Enhanced Channel Attention Mechanism for Time Series Forecasting},
author = {Maowei Jiang and Pengyu Zeng and Kai Wang and Huan Liu and Wenbo Chen and Haoran Liu},
journal= {arXiv preprint arXiv:2212.01209},
year = {2022}
}
备注
11pages.10 figures,conference. arXiv admin note: text overlap with arXiv:2205.14415 by other authors