面向动态 RAG 时序检索建模不确定性趋势
计算与语言
2025-11-14 v1
摘要
动态检索增强生成（RAG）允许大型语言模型（LLM）按需获取外部知识，相较于静态 RAG 提供更大的适应性。在此设置下，确定最佳检索时机是一个核心挑战。现有方法通常基于低 token 级别置信度触发检索，但可能导致错误传播后才进行干预。我们引入熵势约束（ETC），一种无需训练的方法，通过建模 token 级别不确定性的动力学来确定最佳检索时机。具体而言，ETC 利用熵序列的一阶和二阶差分来检测新兴的不确定性趋势，从而实现更早、更精确的检索。在六个 QA 基准测试中使用三个 LLM 背板进行实验，表明 ETCC consistently 优于强大基线，同时减少检索频率。ETC 在特定领域情境下尤为有效，表现出稳健的泛化能力。消融研究和定性分析进一步确认，趋势感知的不确定性建模更高效。该方法即插即用、无模型依赖，可轻松集成到现有解码管道中。实现代码已包含在补充材料中。
引用
@article{arxiv.2511.09980,
title = {Modeling Uncertainty Trends for Timely Retrieval in Dynamic RAG},
author = {Bo Li and Tian Tian and Zhenghua Xu and Hao Cheng and Shikun Zhang and Wei Ye},
journal= {arXiv preprint arXiv:2511.09980},
year = {2025}
}
备注
AAAI'26, Oral Paper