基于潜在离散规划的叙述性文本生成

以往关于故事生成的研究已证明以生成规划为条件生成连贯故事的有效性。然而，这些方法使用启发式方法或现成模型首先用所需类型的规划标注训练故事，然后以监督方式训练生成模型。在本文中，我们提出一种深度潜变量模型，其在生成过程中首先采样一系列锚词，故事中每句一个，作为生成过程的一部分。在训练期间，我们的模型将锚词序列视为潜变量，并尝试以无监督方式诱导有助于引导生成的锚定序列。我们使用多种类型的句子解码器分布进行实验：从左到右和非单调，具有不同程度的限制。此外，由于我们使用 amortized variational inference 训练模型，我们引入两种相应类型的推断网络来预测锚词上的后验。我们进行人工评估，表明与不考虑故事规划的基线相比，我们的模型生成的故事评分更高，并且相对于使用外部监督获取规划的基线质量相似或更好。此外，所提模型在困惑度、多样性以及通过离散规划对故事的控制方面评估时获得有利分数。