面向在线预测任务的神经控制微分方程
机器学习
2021-06-22 v1
摘要
神经控制微分方程（Neural CDEs）是循环神经网络（RNNs）的连续时间扩展，在建模不规则时间序列函数方面达到了最先进（SOTA）性能。为了在连续时间中解释离散数据，当前实现依赖于对数据的非因果插值。这在提前观测到整个时间序列时没有问题，但意味着神经CDE不适用于需要在实时中做出预测的在线预测任务——这是循环网络的主要用例。在此，我们展示了如何弥补这一局限。首先，我们确定了神经CDE插值方案应满足的若干理论条件，如有界性与唯一性。其次，我们利用这些条件引出满足上述条件的新方案，尤其提供了可测性（用于在线预测）与平滑性（用于速度）。第三，我们在来自MIMIC-IV医学数据库的三个连续监测任务上对所提在线神经CDE模型进行经验基准测试：相较于ODE基准我们在所有任务上均表现出更优性能，且在三个任务中的两个上优于SOTA非ODE基准。
引用
@article{arxiv.2106.11028,
title = {Neural Controlled Differential Equations for Online Prediction Tasks},
author = {James Morrill and Patrick Kidger and Lingyi Yang and Terry Lyons},
journal= {arXiv preprint arXiv:2106.11028},
year = {2021}
}