中文

DH-RAG:一种用于多轮对话的动态历史上下文驱动检索增强生成方法

计算与语言 2025-02-20 v1 人工智能 机器学习

摘要

检索增强生成(RAG)系统在问答和多轮对话等应用中展现出显著优势 \citep{lewis2020retrieval}。然而,传统的RAG方法虽然利用了静态知识库,却往往忽略了持续对话中动态历史信息的潜力。为了弥合这一差距,我们引入了DH-RAG,一种用于多轮对话的动态历史上下文驱动检索增强生成方法。DH-RAG受启发于人类在对话回应中同时利用长期记忆和即时历史上下文的认知过程 \citep{stafford1987conversational}。DH-RAG围绕两个主要组件构建:一个是基于历史学习的查询重构模块,旨在通过综合当前和先前的交互来生成有效的查询;另一个是动态历史信息更新模块,在对话过程中不断刷新历史上下文。DH-RAG的核心是一个动态历史信息数据库,该数据库通过查询重构模块内的三种策略得到进一步优化:历史查询聚类、分层匹配和思维链追踪。实验评估表明,DH-RAG在多个基准测试上显著超越传统模型,提升了响应相关性、连贯性和对话质量。

关键词

引用

@article{arxiv.2502.13847,
  title  = {DH-RAG: A Dynamic Historical Context-Powered Retrieval-Augmented Generation Method for Multi-Turn Dialogue},
  author = {Feiyuan Zhang and Dezhi Zhu and James Ming and Yilun Jin and Di Chai and Liu Yang and Han Tian and Zhaoxin Fan and Kai Chen},
  journal= {arXiv preprint arXiv:2502.13847},
  year   = {2025}
}