利用伪知识图谱和多源知识图谱增强大型语言模型以进行开放式问答
计算与语言
2025-03-04 v2 人工智能
摘要
减轻大型语言模型的幻觉是一项关键任务。尽管一些现有方法采用自增强技术，但它们未能有效解决未知事实性幻觉问题。同时，知识图谱（KG）增强方法未能同时解决不同 KG 源之间的泛化性以及开放式回答问题的增强问题。为了解决这些局限性，我们提出了一个结合伪图生成和原子知识验证（PG&AKV）的框架。开放式问答的增强始于利用伪图生成提供相关的知识框架。随后，原子知识验证利用原子级知识查询和验证，实现在不同 KG 源下的泛化能力。与基线相比，该方法在开放式问题上的 ROUGE-L 得分至少提高了 11.5。对于精确回答问题，我们观察到准确率至少提高了 7.5%。此外，PG&AKV 在不同 KG 源之间也表现出泛化能力。利用与问题来源不同的 KG，PG&AKV 甚至能实现至少 3.5% 的性能提升。总之，我们的结果为通过整合伪知识图谱和多源知识图谱来增强大型语言模型铺平了道路，特别是在开放式问题领域。
引用
@article{arxiv.2402.09911,
title = {Enhancing Large Language Models with Pseudo- and Multisource- Knowledge Graphs for Open-ended Question Answering},
author = {Jiaxiang Liu and Tong Zhou and Yubo Chen and Kang Liu and Jun Zhao},
journal= {arXiv preprint arXiv:2402.09911},
year = {2025}
}