探寻答案：探索检索增强生成中的单次与迭代检索策略

基于大语言模型（LLM）的检索增强生成（RAG）是理解和查询行业闭源文档的强大解决方案。然而，基础 RAG 在处理法律和监管领域的复杂问答任务时常常遇到困难，尤其是在处理大量政府文档时。Top-$k$ 策略经常遗漏关键文本块，导致答案不完整或不准确。为解决这些检索瓶颈，我们探索了两种提高证据覆盖率和答案质量的策略。第一种是单次（One-SHOT）检索方法，它根据令牌预算自适应地选择文本块，允许在模型的上下文窗口内包含尽可能多的相关内容。此外，我们设计了模块来进一步过滤和精炼这些文本块。第二种是构建在推理型智能体 RAG 框架上的迭代检索策略，其中推理型 LLM 动态发出搜索查询，评估检索结果，并在多轮对话中逐步优化上下文。我们识别出查询漂移和检索惰性问题，并进一步设计了两个模块来解决它们。通过在政府文档数据集上的广泛实验，我们旨在为法律和监管领域的实际应用提供实用的见解和指导。