忠实于文档还是忠实于世界？通过实体链接知识缓解抽象摘要中的幻觉
计算与语言
2022-05-02 v1
摘要
尽管抽象摘要近期取得了进展，当前的摘要系统仍遭受内容幻觉的困扰，即模型生成与源文档无关或矛盾文本。然而，先前工作基于如下假设：任何未显式出现在源中的生成事实都是不期望的幻觉。已有方法通过最终提升对源文档的“忠实度”来解决该情形，但实际上，黄金参考目标中有大量实体并不直接来源于源。在本工作中，我们表明这些实体并非异常，而是需要利用外部世界知识来推断从源中实体出发的推理路径。我们表明，通过利用外部知识库，我们可以提升摘要的忠实度，而不仅仅使其更具抽取性；此外，我们表明从源链接的外部知识库有益于生成摘要的事实性。
引用
@article{arxiv.2204.13761,
title = {Faithful to the Document or to the World? Mitigating Hallucinations via Entity-linked Knowledge in Abstractive Summarization},
author = {Yue Dong and John Wieting and Pat Verga},
journal= {arXiv preprint arXiv:2204.13761},
year = {2022}
}
备注
12 pages, 5 figures