基于规划的分层变分模型用于长文本与多样化文本生成
计算与语言
2019-08-27 v2 机器学习
摘要
现有的数据到文本生成的神经方法仍难以生成长而多样的文本：它们不足以在生成过程中动态建模输入数据、捕捉句间连贯性，或生成多样化的表达。为解决这些问题，我们提出了一种基于规划的分层变分模型（PHVM）。我们的模型首先规划一组组序列（每组是由一个句子所覆盖的输入项的子集），然后基于规划结果和先前生成的上下文来实现每个句子，从而将长文本生成分解为依赖性的句子生成子任务。为捕捉表达多样性，我们设计了一种分层潜结构，其中全局规划潜变量对合理规划的多样性建模，而局部潜变量序列控制句子实现。实验表明，我们的模型在长而多样的文本生成上优于最先进的基线。
引用
@article{arxiv.1908.06605,
title = {Long and Diverse Text Generation with Planning-based Hierarchical Variational Model},
author = {Zhihong Shao and Minlie Huang and Jiangtao Wen and Wenfei Xu and Xiaoyan Zhu},
journal= {arXiv preprint arXiv:1908.06605},
year = {2019}
}
备注
To appear in EMNLP 2019