SeaKR:面向自适应检索增强生成的自我感知知识检索
计算与语言
2024-06-28 v1
摘要
本文提出 Self-aware Knowledge Retrieval(SeaKR),一种新型自适应 RAG 模型,从 LLM 的内部状态中提取自我感知不确定性。SeaKR 在 LLM 显示高自我感知不确定性时激活检索功能。为有效整合检索到的知识片段,SeaKR 根据 LLM 的自我感知不确定性对其进行重新排序,以保留能最大程度降低不确定性的片段。为便于解决需要多次检索的复杂任务,SeaKR 利用自我感知不确定性在不同推理策略之间进行选择。我们在复杂和简单问答数据集上进行实验,结果表明 SeaKR 在准确率、召回率和 F1 分数等指标上均优于现有的自适应 RAG 方法。我们已在 https://github.com/THU-KEG/SeaKR 上发布代码。
引用
@article{arxiv.2406.19215,
title = {SeaKR: Self-aware Knowledge Retrieval for Adaptive Retrieval Augmented Generation},
author = {Zijun Yao and Weijian Qi and Liangming Pan and Shulin Cao and Linmei Hu and Weichuan Liu and Lei Hou and Juanzi Li},
journal= {arXiv preprint arXiv:2406.19215},
year = {2024}
}