丰富并控制文本摘要的全局语义
计算与语言
2026-05-13 v2
摘要
近来，基于Transformer的模型已被证明能通过生成流畅且信息丰富的摘要在抽取式摘要任务中行之有效。然而，这些模型仍受短程依赖问题困扰，导致生成的摘要遗漏文档要点。本文尝试通过引入一个由归一化流增强的神经主题模型来捕获文档的全局语义，并将其整合进摘要模型，以解决该问题。此外，为避免全局语义对上下文表示的压倒性影响，我们引入一种机制来控制提供给文本生成模块的全局语义量。我们的方法在五个常用文本摘要数据集（即CNN/DailyMail、XSum、Reddit TIFU、arXiv和PubMed）上优于SOTA摘要模型。
引用
@article{arxiv.2109.10616,
title = {Enriching and Controlling Global Semantics for Text Summarization},
author = {Thong Nguyen and Anh Tuan Luu and Truc Lu and Tho Quan},
journal= {arXiv preprint arXiv:2109.10616},
year = {2026}
}
备注
Accepted to the main EMNLP 2021 conference. Code is available at https://github.com/nguyentthong/topicflow-sum