QPaug：用于 LLM 开放域问答的问题与 passages 增强
计算与语言
2024-09-30 v2 人工智能
摘要
检索增强生成 (RAG) 因作为补偿大型语言模型 (LLM) 参数化知识而在开放域问答 (ODQA) 任务中受到广泛关注。虽然先前方法聚焦于处理检索 passages 以移除无关上下文，但仍高度依赖检索 passages 的质量，当问题 模糊或复杂时会导致性能下降。本文提出一种简单而高效的方法，称为问题和 passages 增强 (QPaug)，用于开放域问答。QPaug 首先将原始问题分解为多个步骤子问题。通过将详细子问题和计划增强原始问题，我们能够使查询更具体地指示需要检索的内容，从而提升检索性能。此外， 为了补偿检索 passages 包含干扰信息或分散意见的情况，我们通过 LLM 生成 passages 来增强检索 passages，以引导答案提取。实验结果表明，QPaug 超越了最新 SOTA 方法，并在现有 RAG 方法上实现显著性能提升。源代码已提供于 \url{https://github.com/kmswin1/QPaug}。
关键词
引用
@article{arxiv.2406.14277,
title = {QPaug: Question and Passage Augmentation for Open-Domain Question Answering of LLMs},
author = {Minsang Kim and Cheoneum Park and Seungjun Baek},
journal= {arXiv preprint arXiv:2406.14277},
year = {2024}
}
备注
The 2024 Conference on Empirical Methods in Natural Language Processing (EMNLP), Findings