用于序列建模的深度时间Sigmoid信念网络
机器学习
2015-09-24 v1 机器学习
摘要
提出了深度动态生成模型以学习时间序列数据中的序列依赖关系。该多层模型通过构建时间Sigmoid信念网络（TSBNs）的层次结构来设计，TSBNs定义为Sigmoid信念网络（SBNs）的顺序堆叠。每个SBN具有上下文隐藏状态，从序列中先前的SBNs继承而来，并用于调节其隐藏偏置。通过引入一个识别模型推导出可扩展的学习和推断算法，该识别模型可从变分后验中快速采样。该识别模型与生成模型联合训练，通过最大化其对数似然的变分下界。在弹跳球、复调音乐、动作捕捉和文本流上的实验结果表明，所提方法达到了SOTA预测性能，并能够合成各种序列。
引用
@article{arxiv.1509.07087,
title = {Deep Temporal Sigmoid Belief Networks for Sequence Modeling},
author = {Zhe Gan and Chunyuan Li and Ricardo Henao and David Carlson and Lawrence Carin},
journal= {arXiv preprint arXiv:1509.07087},
year = {2015}
}
备注
to appear in NIPS 2015