基于图与预训练语言模型注意力的文本抽取式摘要
计算与语言
2022-07-27 v2
摘要
将文本表示为图以获取自动文本摘要已被研究十余年。随着注意力或 Transformer 在自然语言处理（NLP）中的发展，建立文本图结构与注意力结构之间的联系成为可能。本文采用整篇文本各句子间的注意力矩阵作为文本全连接图的加权邻接矩阵，该矩阵可通过预训练语言模型生成。进一步将 GCN 应用于文本图模型，以对每个节点进行分类并找出文本中的显著句子。在两个典型数据集上的实验结果表明，我们所提出的模型与 sate-of-the-art 模型相比可取得具有竞争力的结果。
引用
@article{arxiv.2110.04878,
title = {Automatic Text Extractive Summarization Based on Graph and Pre-trained Language Model Attention},
author = {Yuan-Ching Lin and Jinwen Ma},
journal= {arXiv preprint arXiv:2110.04878},
year = {2022}
}