中文

并非所有对话生而平等:神经对话模型的实例加权

计算与语言 2017-07-18 v2 人工智能

摘要

神经对话模型需要大量的对话数据用于其参数估计,因此通常在大型语料库(如聊天论坛或电影字幕)上学习。然而,这些语料库往往难以处理,特别是由于它们经常缺乏轮次分割以及存在对话本身外部的多个引用。本文表明,这些挑战可通过在架构中添加一个加权模型来缓解。该加权模型本身从对话数据估计,将每个训练样本关联到一个反映其用于对话建模的内在质量的数值权重。在训练时,这些样本权重被纳入待最小化的经验损失中。在基于检索的模型上于电影和电视字幕训练的评估结果证明,加入这样的加权模型改善了模型在无监督指标上的性能。

关键词

引用

@article{arxiv.1704.08966,
  title  = {Not All Dialogues are Created Equal: Instance Weighting for Neural Conversational Models},
  author = {Pierre Lison and Serge Bibauw},
  journal= {arXiv preprint arXiv:1704.08966},
  year   = {2017}
}

备注

Accepted to SIGDIAL 2017