中文

DialoGen:面向对话系统的广义长程上下文表示

计算与语言 2023-10-04 v4

摘要

长程上下文建模对于对话理解与生成都至关重要。对话上下文表示最常用的方法是按时间顺序拼接最近的第 kk 轮 utterance(话语)。然而,该方法对于包含长程依赖的对话可能并不理想,即当需要超出最近 kk 轮话语来生成有意义的回复时。本工作中,我们提出 DialoGen,一种基于编码器-解码器的新型对话生成框架,其采用可超越最近 kk 轮话语的广义上下文表示。我们方法的核心思想是识别并利用最相关的历史话语而非最近 kk 轮,这也使得能够以更少的 token 紧凑表示对话历史。我们在对话生成(开放域)与理解(DST,对话状态跟踪)上研究了所提方法的有效性。即便采用紧凑的上下文表示,DialoGen 在开放域 DailyDialog 数据集上的表现也与 state-of-the-art 模型相当。当将所提上下文表示应用于现有 DST 模型时,我们在 MultiWOZ 数据集的 DST 任务上观察到类似表现。我们还讨论了 DialoGen 的泛化性与可解释性,并表明先前话语的相关性分数与人类认知高度一致。

关键词

引用

@article{arxiv.2210.06282,
  title  = {DialoGen: Generalized Long-Range Context Representation for Dialogue Systems},
  author = {Suvodip Dey and Maunendra Sankar Desarkar and Asif Ekbal and P. K. Srijith},
  journal= {arXiv preprint arXiv:2210.06282},
  year   = {2023}
}

备注

Accepted at PACLIC 2023