中文

利用基于三元组的预过滤与半结构化知识及大语言模型进行问答

计算与语言 2024-09-04 v1 人工智能 机器学习 计算机科学中的逻辑

摘要

大语言模型(LLMs)常缺乏领域特定知识,即使是微调后的模型也倾向于产生幻觉。因此,需要能够纳入外部知识的更可靠模型。我们提出了一种名为 4StepFocus 的流程,特别是一个预处理步骤,能够显著改善大语言模型的答案。该方法通过引导式访问外部知识,利用模型自身捕捉关系上下文并进行基本推理的能力来实现。该方法以一种直接、可追溯的方式,通过在半结构化知识库中进行基于三元组的搜索来缩小潜在正确答案的范围,然后再切换到基于非结构化数据的潜在表征对这些候选答案进行排序。这使其区别于纯粹基于潜在表征的相关方法。4StepFocus 包含以下步骤:1) 由大语言模型生成三元组以提取关系数据;2) 利用知识图谱替换这些三元组中的变量以缩小答案候选范围;3) 通过涉及相关非结构化数据的向量相似性搜索对剩余候选进行排序;4) 由大语言模型结合提供的背景数据对最佳候选进行重排序。在医疗、产品推荐和学术论文搜索测试集上的实验表明,这种方法确实是一种强大的增强手段。它不仅从信息检索中增加了相关的可追溯背景信息,而且与最先进的方法相比,显著提高了性能。本文提出了一个新颖且很大程度上未被探索的方向,因此提供了广泛的未来工作机会。使用的源代码可在 https://github.com/kramerlab/4StepFocus 获取。

关键词

引用

@article{arxiv.2409.00861,
  title  = {Harnessing the Power of Semi-Structured Knowledge and LLMs with Triplet-Based Prefiltering for Question Answering},
  author = {Derian Boer and Fabian Koch and Stefan Kramer},
  journal= {arXiv preprint arXiv:2409.00861},
  year   = {2024}
}

备注

9 pages, published at IJCLR 2024