储备核图案空间中的预测建模

本工作提出了一种基于线性储备核的时序预测方法。特别是，将储备核的时序图案用作表示基石，构建通用读出器。我们提供了该方法的几何解释，阐明了该方法与核心储备模型的关系以及两种方法的差异。随后，经验实验将我们建议的模型与最近的基于 Transformer 的模型以及 established 循环网络模型 - LSTM 的预测性能进行比较。实验在单变量和多变量时序数据上进行，并涵盖各种预测时域。我们惊讶地发现，即使采用线性读出器，我们的方法可以在单变量时序数据上超越 Transformer 模型，并在多变量基准数据集上取得具竞争力的结果。我们得出结论，简单模型即使具有易于控制的容量但捕获足够的记忆和子序列结构，也可以超过潜在上错综复杂的深度学习模型。这并不意味着储备图案基于模型优于其他更复杂的替代方案 - 相反， 当引入新的复杂时序模型时，应作为 sanity check 使用简单但可能强大的替代方案/基线，如储备模型或本文介绍的模型。