作为近似后验的无向图模型
机器学习
2020-06-09 v2 机器学习
摘要
近似后验的表示是变分自编码器（VAEs）有效性的关键方面。由于与真实后验的不匹配，对近似后验的糟糕选择会对 VAE 的生成性能产生不利影响。我们通过使用无向图模型扩展了可学习的后验模型类别。我们开发了一种训练无向近似后验的高效方法，通过证明训练目标相对于无向后验参数的梯度可通过马尔可夫链蒙特卡洛更新的反向传播计算。我们将这些梯度估计器应用于以玻尔兹曼机作为近似后验的离散 VAE 训练，并证明无向模型优于先前使用有向图模型所获得的结果。我们的实现可在 https://github.com/QuadrantAI/dvaess 获取。
引用
@article{arxiv.1901.03440,
title = {Undirected Graphical Models as Approximate Posteriors},
author = {Arash Vahdat and Evgeny Andriyash and William G. Macready},
journal= {arXiv preprint arXiv:1901.03440},
year = {2020}
}
备注
Accepted to ICML 2020