产生幻觉却事实正确！审视抽象式摘要中幻觉的事实性
计算与语言
2021-12-07 v2
摘要
最先进的抽象式摘要系统常生成\emph{幻觉}，即无法直接由源文本推断出的内容。尽管被假定为不正确，我们发现许多幻觉内容事实正确，即与世界知识一致。这些事实性幻觉可通过提供有用的背景信息而在摘要中是有益的。本工作中，我们提出一种新颖检测方法，将实体的事实性幻觉与非事实性幻觉分离。我们的方法分别利用根据预训练和微调后的掩码语言模型得到的实体的先验与后验概率。实证结果表明，我们的方法大幅优于两个基线，且与人类判断强相关。此外，我们展示当我们的检测器用作离线强化学习(RL)算法中的奖励信号时，在保持抽象程度的同时显著提升了摘要的事实性。
引用
@article{arxiv.2109.09784,
title = {Hallucinated but Factual! Inspecting the Factuality of Hallucinations in Abstractive Summarization},
author = {Meng Cao and Yue Dong and Jackie Chi Kit Cheung},
journal= {arXiv preprint arXiv:2109.09784},
year = {2021}
}