中文

用于不完整话语重写的自注意力方法

计算与语言 2022-03-01 v2

摘要

不完整话语重写(IUR)近期已成为NLP中的一项基本任务,旨在用充分的上下文信息补全不完整话语以便于理解。本文中,我们提出一种新方法,直接从transformer的自注意力权重矩阵中提取共指与省略关系,而非从词嵌入中提取,并相应编辑原始文本以生成完整话语。得益于自注意力权重矩阵中的丰富信息,我们的方法在公开IUR数据集上取得了具有竞争力的结果。

关键词

引用

@article{arxiv.2202.12160,
  title  = {Self-Attention for Incomplete Utterance Rewriting},
  author = {Yong Zhang and Zhitao Li and Jianzong Wang and Ning Cheng and Jing Xiao},
  journal= {arXiv preprint arXiv:2202.12160},
  year   = {2022}
}

备注

Accepted by the 47th IEEE International Conference on Acoustics, Speech, and Signal Processing (ICASSP 2022)