用于时间序列预测的对偶重参数化变分生成模型
机器学习
2022-04-12 v1 人工智能
机器学习
摘要
本文提出DualVDT,一种用于时间序列预测的生成模型。在变分自编码器(VAE)上引入对偶重参数化变分机制以紧致模型的证据下界(ELBO),并从解析上证明性能的提升。该机制利用基于潜变量分数(score)的生成模型(SGM),通过反向时间随机微分方程与变分祖先采样显式地去噪累积在潜向量上的扰动。去噪后潜变量分布的后验与对偶重参数化变分密度相融合。ELBO中的KL散度将减小以取得模型更优的结果。本文还提出一种潜注意力机制以显式提取多变量依赖关系。通过构建的局部拓扑与时序维度,在因子维度上同时建立局部时间依赖。在多个数据集上的理论证明与实验表明,DualVDT凭借新颖的对偶重参数化结构,通过结合局部-时序推断的反向动力学去噪潜变量扰动,在解析与实验上均具有先进性能。
引用
@article{arxiv.2203.05766,
title = {Dual reparametrized Variational Generative Model for Time-Series Forecasting},
author = {Ziang Chen},
journal= {arXiv preprint arXiv:2203.05766},
year = {2022}
}