轻量稀疏交互网络用于时间序列预测
机器学习
2026-02-03 v1
摘要
近期研究表明，线性模型在长期时间序列预测中超越了多个变换器模型。然而，线性模型是通过堆叠的多层感知机结构隐式地进行时间交互，而非显式地通过自注意力机制，这可能在捕捉复杂的时间依赖关系方面不足，其性能仍有提升空间。为此，我们提出了用于时间序列预测任务的轻量稀疏交互网络（LSINet）。灵感来自自注意力的稀疏性，我们提出了多头稀疏交互机制（MSIM）。与自注意力不同，MSIM通过稀疏引导的伯努利分布学习时间步之间的重要连接，以捕捉时间序列预测中的时间依赖关系。稀疏性通过提出的自适应正则化损失函数得到确保。此外，我们观察到时间交互的可共享性，提出进行MSIM的共享交互学习（SIL），以进一步提高效率并改进收敛。LSINet是由仅包含多层感知机结构的线性模型，具有低开销并配备了显式时间交互机制。大量实验表明，LSINet在时间序列预测任务中，以较高的准确率和更好的效率超越了先进的线性模型和变换器模型。代码已提供链接 https://github.com/Meteor-Stars/LSINet。
引用
@article{arxiv.2602.01585,
title = {A Lightweight Sparse Interaction Network for Time Series Forecasting},
author = {Xu Zhang and Qitong Wang and Peng Wang and Wei Wang},
journal= {arXiv preprint arXiv:2602.01585},
year = {2026}
}
备注
The paper is published in AAAI Conference on Artificial Intelligence, AAAI 2025. The code is available at the link https://github.com/Meteor-Stars/LSINet