KS-LLM：用于问答的大语言模型知识选择方法
计算与语言
2024-04-25 v1
摘要
大语言模型（LLM）因幻觉问题，在应用于知识密集型任务时面临重大挑战。一个可行的办法是利用证据文档作为额外的支持知识，这些知识可通过检索或生成获得。然而，现有方法直接利用证据文档的全部内容，可能引入噪声信息并损害大语言模型的性能。为解决此问题，我们提出了一种新颖的大语言模型知识选择方法（Knowledge Selection of Large Language Models, KS-LLM），旨在从证据文档中识别有价值的信息。KS-LLM方法利用三元组有效地从证据文档中选择有助于回答问题的知识片段。具体而言，我们首先根据输入问题生成三元组，然后从证据文档中选择与三元组最相似的证据句子，最后将证据句子和三元组组合起来，以帮助大语言模型生成答案。在TriviaQA、WebQ和NQ等几个问答数据集上的实验比较表明，所提出的方法优于基线方法并取得最佳结果。
引用
@article{arxiv.2404.15660,
title = {KS-LLM: Knowledge Selection of Large Language Models with Evidence Document for Question Answering},
author = {Xinxin Zheng and Feihu Che and Jinyang Wu and Shuai Zhang and Shuai Nie and Kang Liu and Jianhua Tao},
journal= {arXiv preprint arXiv:2404.15660},
year = {2024}
}