FRWKV：用于长期时间序列预测的频域线性注意力
机器学习
2025-12-10 v2
摘要
传统 Transformer 在长序列时间序列预测中面临主要瓶颈：其二次复杂度 以及其有限有效利用频域信息的能力。在灵感来自 RWKV 的 线性注意力和频域建模方面，我们提出了 FRWKV，这是一种频域线性注意力框架，克服了这些限制。我们的模型将线性注意力机制与频域分析集成，实现注意力路径中的 计算复杂度，同时利用谱信息来增强时序特征表示，以实现可扩展的长序列建模。在八个真实数据集上，FRWKV 在平均排名上取得第一名。我们的消融研究确认了线性注意力和频率编码器组件的关键作用。这一工作展示了线性注意力与频率分析之间强大的协同作用，确立了可扩展时间序列建模的新范式。代码已在本存储库提供：https://github.com/yangqingyuan-byte/FRWKV。
引用
@article{arxiv.2512.07539,
title = {FRWKV:Frequency-Domain Linear Attention for Long-Term Time Series Forecasting},
author = {Qingyuan Yang and Shizhuo Deng and Dongyue Chen and Da Teng and Zehua Gan},
journal= {arXiv preprint arXiv:2512.07539},
year = {2025}
}