CBR-RAG: 基于案例的推理用于大语言模型中的检索增强生成以实现法律问答
计算与语言
2024-04-09 v1 人工智能
摘要
检索增强生成（RAG）通过提供先验知识作为输入上下文来增强大语言模型（LLM）的输出。这对于知识密集型和依赖专家的任务（包括法律问答）非常有益，这些任务需要证据来验证生成的文本输出。我们强调，基于案例的推理（CBR）为在LLM中作为RAG过程一部分的结构化检索提供了关键机会。我们介绍CBR-RAG，其中CBR循环的初始检索阶段、其索引词汇和相似性知识容器用于增强LLM查询与上下文相关案例。这种集成增强了原始LLM查询，提供了更丰富的提示。我们评估了CBR-RAG，并检查了不同表示（即通用和领域特定嵌入）和比较方法（即内部、交叉和混合相似性）在法律问答任务上的表现。我们的结果表明，CBR的案例重用提供的上下文加强了问题相关组件与证据库之间的相似性，导致生成答案质量的显著提高。
引用
@article{arxiv.2404.04302,
title = {CBR-RAG: Case-Based Reasoning for Retrieval Augmented Generation in LLMs for Legal Question Answering},
author = {Nirmalie Wiratunga and Ramitha Abeyratne and Lasal Jayawardena and Kyle Martin and Stewart Massie and Ikechukwu Nkisi-Orji and Ruvan Weerasinghe and Anne Liret and Bruno Fleisch},
journal= {arXiv preprint arXiv:2404.04302},
year = {2024}
}
备注
Submitted to ICCBR'24