面向自编码变分贝叶斯的非参数推断
机器学习
2017-12-19 v1 人工智能
机器学习
摘要
我们希望学习低维且高度可解释的潜表示。具备这些特性的一个模型是高斯过程潜变量模型(GP-LVM)。GP-LVM 的优点与不足同变分自编码器(VAE)互补:前者提供可解释的低维潜表示,而后者能处理大量数据并可使用非高斯似然。本文的灵感源于将这两种方法结合以兼收二者之长。为此,我们将引入一种受 GP-LVM 与 VAE 启发的新型近似推断方案。我们通过实验表明,该近似允许 VAE 的生成瓶颈(Z)容量任意大而不损失高度可解释的表示,使得重构质量不受 Z 限制,同时可使用低维空间进行祖先采样以及作为对嵌入数据进行推理的手段。
引用
@article{arxiv.1712.06536,
title = {Nonparametric Inference for Auto-Encoding Variational Bayes},
author = {Erik Bodin and Iman Malik and Carl Henrik Ek and Neill D. F. Campbell},
journal= {arXiv preprint arXiv:1712.06536},
year = {2017}
}
备注
Presented at NIPS 2017 Workshop on Advances in Approximate Bayesian Inference