SeqLink:一种用于建模部分观测时间序列的鲁棒神经 ODE 架构
机器学习
2024-08-06 v3
摘要
基于常微分方程(ODE)的模型已成为解决许多时间序列问题的基础模型。将神经 ODE 与传统 RNN 模型结合,为不规则时间序列提供了最佳表示。然而,基于 ODE 的模型通常要求隐状态的轨迹基于初始观测值或最近观测值来定义,这引发了人们对其在处理更长序列与更长时间间隔时有效性的质疑。本文中,我们探讨了 ODE 模型在具有不同程度稀疏性的时间序列数据中的行为。我们引入 SeqLink,一种旨在增强序列表示鲁棒性的创新神经架构。不同于仅依赖由最后观测值生成的隐状态的传统方法,SeqLink 利用从多个数据样本导出的 ODE 隐表示,使其无论序列长度或数据稀疏程度如何都能生成鲁棒的数据表示。我们模型的核心概念是基于样本间关系(序列间链接)来定义未观测值的隐状态。通过在部分观测的合成与真实世界数据集上的大量实验,我们证明 SeqLink 改进了对间歇时间序列的建模,持续优于最先进的方法。
引用
@article{arxiv.2212.03560,
title = {SeqLink: A Robust Neural-ODE Architecture for Modelling Partially Observed Time Series},
author = {Futoon M. Abushaqra and Hao Xue and Yongli Ren and Flora D. Salim},
journal= {arXiv preprint arXiv:2212.03560},
year = {2024}
}