通过负蒸馏实现神经对话生成的多样化

生成式对话模型深受通用回复问题的困扰，限制了其在少数玩具场景中的应用。近来，一种有趣的方法，即负训练，被提出以通过在训练时提醒模型不要生成高频回复来缓解该问题。然而，其性能受两个问题阻碍：忽略了低频但通用的回复，以及引入了低频但无意义的回复。在本文中，我们提出一种新颖的负训练范式，称为负蒸馏，以使模型远离不良的通用回复，同时避免上述问题。首先，我们引入一个负教师模型，该模型能够产生针对查询的通用回复，然后要求学生模型与多级负知识最大化距离。实证结果表明，我们的方法显著优于先前的负训练方法。