面向知识增强零样本问答的聚焦证据事实摘要
计算与语言
2024-10-10 v3 人工智能
机器学习
摘要
最近的研究探讨了利用知识图谱 (KGs) 来提升大型语言模型 (LLMs) 的问答 (QA) 性能，然而结构化的 KG 口头化仍然具有挑战性。现有方法，如三元组形式或三元组事实的自由形式文本转换，面临若干问题。这些问题包括由于实体或关系重复导致的证据密度降低，以及由于无法强调关键证据导致的证据清晰度降低。为解决这些问题，我们提出了 EFSum，一种面向知识增强 LLMs 增强型 QA 的聚焦证据事实摘要框架。我们通过蒸馏和偏好对齐优化了一个开源 LLM 作为事实摘要器。我们的大量实验表明，EFSum 提升了 LLM 的零样本 QA 性能，并且能够同时确保摘要的有益性和忠实性。
引用
@article{arxiv.2403.02966,
title = {Evidence-Focused Fact Summarization for Knowledge-Augmented Zero-Shot Question Answering},
author = {Sungho Ko and Hyunjin Cho and Hyungjoo Chae and Jinyoung Yeo and Dongha Lee},
journal= {arXiv preprint arXiv:2403.02966},
year = {2024}
}