通过反向推理提升开放域对话系统的回复质量

在设计类人开放域对话系统时，能够生成信息丰富且连贯的对话回复至关重要。基于编码器-解码器的对话模型在解码步骤中往往生成通用且乏味的回复，因为最具可预测性的回复很可能是非信息性的回复而非最合适的回复。为缓解此问题，我们提出以双向方式训练生成模型，在原始编码器-解码器训练中加入反向推理步骤。所提出的反向推理步骤推动模型生成更具信息性和连贯性的内容，因为正向生成步骤的输出被用于反向推断对话上下文。我们方法的优势在于，通过引入潜变量以促进双向优化，正向生成与反向推理步骤被同时训练。我们的方法可在不引入额外信息（例如预训练主题模型）的情况下提升回复质量。所提出的双向回复生成方法在回复质量上取得了最先进的性能。