RNADE:实值神经自回归密度估计器
机器学习
2014-01-10 v2 机器学习
摘要
我们提出了 RNADE,一种用于实值向量联合密度估计的新模型。我们的模型将数据点的密度计算为使用共享参数的混合密度网络(mixture density networks)建模的一维条件概率的乘积。RNADE 学习数据的分布式表示,同时拥有可处理的密度计算表达式。可处理的似然函数允许与其他方法进行直接比较,并通过标准的基于梯度的优化器进行训练。我们在几个异构数据和感知数据集上比较了 RNADE 的性能,发现除一种情况外,其表现均优于混合模型。
引用
@article{arxiv.1306.0186,
title = {RNADE: The real-valued neural autoregressive density-estimator},
author = {Benigno Uria and Iain Murray and Hugo Larochelle},
journal= {arXiv preprint arXiv:1306.0186},
year = {2014}
}
备注
12 pages, 3 figures, 3 tables, 2 algorithms. Merges the published paper and supplementary material into one document