基于泄露信息对抗训练的长文本生成

自动生成连贯且语义合理的文本在机器翻译、对话系统、图像描述等众多领域具有广泛应用。近期，通过结合策略梯度，使用判别模型来指导生成模型作为强化学习策略训练的生成对抗网络在文本生成中展现出可喜的成果。然而，标量指导信号仅在整段文本生成完毕后才可用，在生成过程中缺乏关于文本结构的中间信息。因此，当生成的文本样本长度较长（超过20个词）时，这限制了其成功率。在本文中，我们提出了一个名为 LeakGAN 的新框架来解决长文本生成问题。我们允许判别网络将其自身提取的高层特征泄露给生成网络，以进一步辅助指导。生成器通过一个额外的 Manager 模块将这些信息丰富的信号融入所有生成步骤中，该模块接收当前已生成词语的提取特征，并输出一个潜在向量来指导 Worker 模块生成下一个词。我们在合成数据及多种带有图灵测试的真实任务上进行了大量实验，结果表明 LeakGAN 在长文本生成中极为有效，同时也提升了短文本生成场景下的性能。更重要的是，在没有任何监督的情况下，LeakGAN 能够仅通过 Manager 与 Worker 之间的交互隐式地学习句子结构。