利用非对话文本实现对话生成的多样化

基于神经网络的序列到序列（seq2seq）模型在开放域对话生成方面严重受困于低多样性问题。由于平淡而通用的话语通常在我们日常闲聊的频率分布中占主导，避免它们以生成更有趣的回复需要复杂的数据过滤、采样技术或修改训练目标。在本文中，我们提出一种利用非对话文本实现对话生成多样化的新视角。与双边对话相比，非对话文本更易获取、更加多样且覆盖远更广泛的话题。我们从包括论坛评论、习语和书籍片段在内的多来源收集了一个大规模非对话语料库。我们进一步提出了一种通过迭代回译有效整合这些文本的训范式。所得模型在两个对话数据集上进行了测试，结果显示其在不牺牲与上下文相关性的情况下显著生成更多样化的回复。