学习过滤上下文以用于检索增强生成
计算与语言
2023-11-15 v1 人工智能
摘要
对于开放域问答和事实验证等任务，动态检索相关知识已被证明是可靠系统的基本要素。然而，由于检索系统并不完美，生成模型需要在给定部分或完全不相关段落的情况下生成输出。这可能导致对上下文的过度或不足依赖，并引发生成输出中的问题，如幻觉。为缓解这些问题，我们提出 FILCO，一种通过以下方式提升提供给生成器的上下文质量的方法：(1) 基于词汇和信息论方法识别有用上下文；(2) 训练能在测试时过滤检索上下文的上下文过滤模型。我们在六个知识密集型任务上使用 FLAN-T5 和 LLaMa2 进行实验，证明我们的方法在抽取式问答（QA）、复杂多跳与长形式问答、事实验证和对话生成任务上优于现有方法。FILCO 有效提升了上下文质量，无论其是否支持标准输出。
引用
@article{arxiv.2311.08377,
title = {Learning to Filter Context for Retrieval-Augmented Generation},
author = {Zhiruo Wang and Jun Araki and Zhengbao Jiang and Md Rizwan Parvez and Graham Neubig},
journal= {arXiv preprint arXiv:2311.08377},
year = {2023}
}