长输入文本摘要中的幻觉消减
计算与语言
2023-10-02 v1 信息检索
机器学习
摘要
文本摘要中的幻觉指模型生成不被输入源文档支持的信息之现象。幻觉对生成摘要的准确性与可靠性构成重大障碍。本文旨在减少长篇幅文本文档摘要中的幻觉输出或幻觉。我们使用了包含长篇科学研究文档及其摘要的PubMed数据集。我们在Longformer Encoder-Decoder (LED)模型的微调中融入数据过滤与联合实体及摘要生成(JAENS)技术，以最小化幻觉并从而提升生成摘要的质量。我们使用以下实体级事实一致性度量：precision-source与F1-target。我们的实验表明，微调后的LED模型在生成论文摘要方面表现良好。基于若干预处理步骤的数据过滤技术在某些事实一致性度量上减少了生成摘要中的实体级幻觉。
引用
@article{arxiv.2309.16781,
title = {Hallucination Reduction in Long Input Text Summarization},
author = {Tohida Rehman and Ronit Mandal and Abhishek Agarwal and Debarshi Kumar Sanyal},
journal= {arXiv preprint arXiv:2309.16781},
year = {2023}
}
备注
9 pages, 1 figure, 1 table