抽象式文本摘要中的命名实体包含
计算与语言
2023-10-05 v1 人工智能
机器学习
社会与信息网络
摘要
我们解决了命名实体遗漏这一当前许多抽象式文本摘要器的缺陷。我们提出了一种自定义预训练目标,以增强模型对文本中命名实体的关注。首先,训练命名实体识别模型 RoBERTa 以确定文本中的命名实体。之后,使用该模型对文本中的命名实体进行掩码,并训练 BART 模型对其进行重建。接下来,在摘要任务上对 BART 模型进行微调。我们的实验表明,这种预训练方法提升了命名实体包含的精确率与召回率指标。
引用
@article{arxiv.2307.02570,
title = {Named Entity Inclusion in Abstractive Text Summarization},
author = {Sergey Berezin and Tatiana Batura},
journal= {arXiv preprint arXiv:2307.02570},
year = {2023}
}
备注
https://aclanthology.org/2022.sdp-1.17/