REM: 基于实体挖掘的事后话语精炼方法用于忠实于知识的对话
计算与语言
2024-06-18 v1 人工智能
摘要
尽管近期语言生成性能取得了显著进步，但模型生成的回复一直受到幻觉这一长期问题的困扰，这些幻觉要么不真实，要么不忠实于给定来源。特别是在基于知识的对话任务中，模型需要生成信息丰富的回复，但幻觉话语会导致沟通误解。其中，导致严重错误信息和不良对话的实体级幻觉是主要关注点之一。为了解决这个问题，我们提出了一种名为REM的事后精炼方法。它旨在通过基于源知识精炼幻觉话语，来增强其质量和忠实度。如果生成的话语与给定知识的源忠实度得分较低，REM会挖掘知识中的关键实体，并隐式地使用它们来精炼话语。我们验证了我们的方法减少了话语中的实体幻觉。此外，我们通过大量实验和生成结果展示了REM的适应性和有效性。我们的代码可在https://github.com/YOONNAJANG/REM获取。
引用
@article{arxiv.2406.10809,
title = {Post-hoc Utterance Refining Method by Entity Mining for Faithful Knowledge Grounded Conversations},
author = {Yoonna Jang and Suhyune Son and Jeongwoo Lee and Junyoung Son and Yuna Hur and Jungwoo Lim and Hyeonseok Moon and Kisu Yang and Heuiseok Lim},
journal= {arXiv preprint arXiv:2406.10809},
year = {2024}
}
备注
Accepted at EMNLP 2023