中文

X-ReCoSa:用于多轮对话生成的多尺度上下文聚合

计算与语言 2023-03-15 v1

摘要

在多轮对话生成中,回复不仅与上下文的主题和背景相关,也与上下文句子中的词语和短语相关。然而,当前广泛使用的层次化对话模型仅依赖来自话语级编码器的上下文表示,忽略了词级编码器输出的句子表示。这不可避免地导致解码与生成过程中的信息损失。本文提出一种新的对话模型 X-ReCoSa 以解决该问题,其针对层次化对话模型聚合多尺度上下文信息。具体而言,我们将生成解码器划分为上下两部分,即意图部分与生成部分。首先,意图部分以上下文表示为输入生成回复的意图。随后生成部分依据句子表示生成词语。因此,层次化信息已被融合进回复生成。我们在英文数据集 DailyDialog 上开展实验。实验结果表明,我们的方法在自动指标与人工评价上均优于基线模型。

关键词

引用

@article{arxiv.2303.07833,
  title  = {X-ReCoSa: Multi-Scale Context Aggregation For Multi-Turn Dialogue Generation},
  author = {Danqin Wu},
  journal= {arXiv preprint arXiv:2303.07833},
  year   = {2023}
}