何时检索？动态检索增强生成的不确定性检测

检索增强生成为大语言模型提供了检索外部知识的能力，从而通过纳入模型内置能力之外的信息来缓解幻觉现象。然而，大多数先前工作聚焦于确定性地调用检索功能，这使其不适用于长篇问答等任务。相反，仅在底层 LLM 缺乏所需知识时才动态执行检索会更高效。在此背景下，我们深入探讨了“检索与否？”的问题，通过探索多种不确定性检测方法。我们为长篇问答任务采用动态检索，对这些方法进行评估并进行比较。我们的发现表明，不确定性检测指标，如 Degree Matrix Jaccard 和 Eccentricity，可将检索调用次数缩减近一半，而仅略微降低问答准确率。