中文

HSCJN:一种用于多样化回复生成的全局语义约束联合网络

计算与语言 2020-01-22 v2

摘要

序列到序列(Seq2Seq)模型在解码过程中根据先前已观测到的词迭代生成目标词,这导致目标回复中全局语义的丢失以及回复与对话历史之间完整语义关系的缺失。本文提出一种通用的促进多样性的联合网络,称为全局语义约束联合网络(HSCJN),其增强了全局句子信息,并通过惩罚低熵输出来正则化目标函数。我们的网络引入更多目标信息以提升多样性,同时捕获直接的语义信息以更好地约束相关性。此外,所提方法可轻松应用于任何 Seq2Seq 结构。在多个对话语料库上的大量实验表明,我们的方法有效提升了生成回复的语义一致性与多样性,并取得了优于其他竞争性方法的性能。

关键词

引用

@article{arxiv.1912.00380,
  title  = {HSCJN: A Holistic Semantic Constraint Joint Network for Diverse Response Generation},
  author = {Yiru Wang and Pengda Si and Zeyang Lei and Guangxu Xun and Yujiu Yang},
  journal= {arXiv preprint arXiv:1912.00380},
  year   = {2020}
}

备注

Nomination for best paper award at 3rd Conversational AI Workshop at Thirty-third Conference on Neural Information Processing Systems(NeurIPS 2019)