中文

查询聚焦生成式摘要:将查询相关性、多文档覆盖与摘要长度约束融入 seq2seq 模型

计算与语言 2018-01-26 v2

摘要

查询聚焦摘要(QFS)大多使用抽取式方法处理。然而,此类方法生成的文本连贯性较差。我们研究如何将生成式方法应用于 QFS,以克服这些局限。基于神经注意力序列到序列模型的最新进展在生成式通用单文档摘要任务上取得了最优结果。此类模型在大量训练数据上以端到端方式训练。我们针对三个方面使生成式摘要适用于 QFS:(a) 由于无训练数据,我们将查询相关性融入预训练的生成式模型;(b) 由于现有生成式模型在单文档设定下训练,我们设计了一种迭代方法将生成式模型嵌入 QFS 的多文档需求中;(c) 我们所适配的生成式模型训练为生成特定长度文本(约 100 词),而我们的目标是生成不同大小的输出(约 250 词);我们设计了一种方法将生成摘要的目标大小适配至给定大小比例。我们在 DUC QFS 数据集上将我们的方法(面向 QFS 的相关性敏感注意力)与抽取式基线及各种组合生成式模型的方式比较,并展示了 ROUGE 性能的稳健提升。

关键词

引用

@article{arxiv.1801.07704,
  title  = {Query Focused Abstractive Summarization: Incorporating Query Relevance, Multi-Document Coverage, and Summary Length Constraints into seq2seq Models},
  author = {Tal Baumel and Matan Eyal and Michael Elhadad},
  journal= {arXiv preprint arXiv:1801.07704},
  year   = {2018}
}