马尔可夫高斯过程变分自编码器
机器学习
2023-08-21 v3 计算机视觉与模式识别
机器学习
摘要
序列 VAE 已成功应用于许多高维时间序列建模问题，许多变体模型依赖于诸如循环神经网络（RNNs）等离散时间机制。另一方面，连续时间方法近来受到关注，特别是在不规则采样时间序列的背景下，其相比离散时间方法能更好地处理数据。其中一类是高斯过程变分自编码器（GPVAEs），其 VAE 先验被设为高斯过程（GP）。然而，GPVAEs 的一个主要局限是继承了 GP 的立方计算代价，使其对实践者缺乏吸引力。在本工作中，我们利用马尔可夫 GP 的等价离散状态空间表示，通过卡尔曼滤波与平滑实现线性时间 GPVAE 训练。对于我们的模型，马尔可夫 GPVAE（MGPVAE），我们在多种高维时间与时空任务上表明，我们的方法相较于现有方法表现良好，同时具有高度的计算可扩展性。
引用
@article{arxiv.2207.05543,
title = {Markovian Gaussian Process Variational Autoencoders},
author = {Harrison Zhu and Carles Balsells Rodas and Yingzhen Li},
journal= {arXiv preprint arXiv:2207.05543},
year = {2023}
}
备注
Conference paper published at ICML 2023 https://openreview.net/pdf?id=Z8QlQ207V6