Pachinko 分配机中的变分推断
计算与语言
2018-04-24 v1 机器学习
机器学习
摘要
Pachinko 分配机（PAM）是一种深层主题模型，它通过主题上有向无环图来表示主题间丰富的相关结构。然而，由于模型的灵活性，近似推断非常困难。或许正因如此，文献中仅探索了少量潜在的 PAM 架构。在本文中，我们提出一种高效且灵活的 PAM 摊销变分推断方法，使用深度推断网络以类似于变分自编码器的方式参数化近似后验分布。我们的推断方法比最先进的 PAM 推断方法产生更连贯的主题，同时速度快一个数量级，这使得能够探索比以往研究范围更广的 PAM 架构。
关键词
引用
@article{arxiv.1804.07944,
title = {Variational Inference In Pachinko Allocation Machines},
author = {Akash Srivastava and Charles Sutton},
journal= {arXiv preprint arXiv:1804.07944},
year = {2018}
}