中文

PlanRAG:面向作为决策者的生成式大语言模型的计划-检索增强生成方法

计算与语言 2024-06-19 v1 人工智能 机器学习

摘要

本文研究了如何将大语言模型(LLM)用于需要复杂数据分析的决策问题。我们定义了决策问答(Decision QA)任务,即为决策问题 Q、业务规则 R 和数据库 D,寻找最佳决策 d_best。由于目前缺乏能够评估决策问答的基准数据集,我们提出了决策问答基准(DQA),其包含两个情景(Locating 与 Building),分别来自两个目标高度一致的电子游戏(《欧洲王国》四和《维多利亚三》),其目标几乎等同于决策问答。为有效解决决策问答问题,我们提出了一种新的检索增强生成(RAG)技术,称为迭代计划-检索增强生成(PlanRAG)。我们的PlanRAG方法首先生成决策计划,再由检索器生成数据分析查询。所提方法在Locating情景中相对于最先进的迭代RAG方法提升了15.8%,在Building情景中提升了7.4%。我们将发布代码与基准数据集至 https://github.com/myeon9h/PlanRAG。

关键词

引用

@article{arxiv.2406.12430,
  title  = {PlanRAG: A Plan-then-Retrieval Augmented Generation for Generative Large Language Models as Decision Makers},
  author = {Myeonghwa Lee and Seonho An and Min-Soo Kim},
  journal= {arXiv preprint arXiv:2406.12430},
  year   = {2024}
}

备注

NAACL 2024