用于文本生成的主题引导变分自编码器
计算与语言
2019-03-19 v1
摘要
我们提出了一种用于文本生成的主题引导变分自编码器（TGVAE）模型。与现有的基于变分自编码器（VAE）的方法不同，后者假设潜码的先验为简单高斯分布，我们的模型将先验指定为由神经主题模块参数化的高斯混合模型（GMM）。每个混合分量对应一个潜主题，为该主题下生成句子提供引导。我们模型中的神经主题模块与基于 VAE 的神经序列模块联合学习。特别地，应用一系列可逆 Householder 变换以在模型推断期间赋予潜码的近似后验高度灵活性。实验结果表明，我们的 TGVAE 在无条件和有条件文本生成上均优于替代方法，能够生成具有多种主题的语义有意义句子。
引用
@article{arxiv.1903.07137,
title = {Topic-Guided Variational Autoencoders for Text Generation},
author = {Wenlin Wang and Zhe Gan and Hongteng Xu and Ruiyi Zhang and Guoyin Wang and Dinghan Shen and Changyou Chen and Lawrence Carin},
journal= {arXiv preprint arXiv:1903.07137},
year = {2019}
}