用于神经对话生成的组级对比学习
计算与语言
2020-10-14 v2 人工智能
摘要
神经对话响应生成近年来广受关注。最大似然估计(MLE)目标在现有对话模型学习中被广泛采用。然而,以 MLE 目标函数训练的模型在开放域对话设定下深受低多样性问题困扰。受人类不仅从正信号中学习而且从纠正不良动作行为中获益这一观察的启发,在本工作中我们将对比学习引入对话生成,使模型显式感知精心挑选的正样本与负样本话语之间的差异。具体而言,我们采用一个预训练基线模型作为参考。在对比学习期间,与目标对话模型相比参考模型,训练目标对话模型对正样本给出更高的条件概率,对负样本给出更低的条件概率。为处理人类对话中普遍存在的多映射关系,我们用组级双重采样增强对比对话学习。大量实验结果表明,所提出的组级对比学习框架非常适合训练各类神经对话生成模型,且相对于基线训练方法具有非常良好的性能。
引用
@article{arxiv.2009.07543,
title = {Group-wise Contrastive Learning for Neural Dialogue Generation},
author = {Hengyi Cai and Hongshen Chen and Yonghao Song and Zhuoye Ding and Yongjun Bao and Weipeng Yan and Xiaofang Zhao},
journal= {arXiv preprint arXiv:2009.07543},
year = {2020}
}