结构知识驱动的持续多元时间序列预测
机器学习
2024-02-21 v1
摘要
近期关于多元时间序列（MTS）预测的研究表明，显式建模不同时间序列之间的隐藏依赖关系可以产生有希望的预测性能和可靠的解释。然而，当 MTS 在不同机制（阶段）下持续积累时，变量依赖关系的建模仍未得到充分探索。由于潜在的分布和依赖关系差异，底层模型可能会遇到灾难性遗忘问题，即在保持预测性能的同时，难以记忆和推断不同机制下的不同类型变量依赖关系。为解决这一问题，我们提出了一种新颖的结构知识驱动持续学习（SKI-CL）框架，在持续学习范式下执行 MTS 预测，该框架利用结构知识引导预测模型识别并适应不同机制，并从每个机制中选择代表性 MTS 样本进行记忆回放。具体而言，我们开发了一种基于图结构学习的预测模型，在优化 MTS 数据的预测目标时，在学习到的变量依赖关系与结构知识之间施加一致性正则化方案。因此，在每个机制中学习到的 MTS 表示都与独特的结构知识相关联，这有助于模型记忆各种可设想的情景，并在持续学习背景下产生准确的预测。同时，我们开发了一种表示匹配的记忆回放方案，最大化 MTS 数据的时间覆盖范围，以有效保留每个机制的底层时间动态和依赖结构。在合成和真实世界基准上的详尽实证研究验证了 SKI-CL 在持续 MTS 预测任务中的有效性及其优于最先进方法的优势。
引用
@article{arxiv.2402.12722,
title = {Structural Knowledge Informed Continual Multivariate Time Series Forecasting},
author = {Zijie Pan and Yushan Jiang and Dongjin Song and Sahil Garg and Kashif Rasul and Anderson Schneider and Yuriy Nevmyvaka},
journal= {arXiv preprint arXiv:2402.12722},
year = {2024}
}