LoRE:用于增强开域问答的数据驱动检索器集成
计算与语言
2024-10-15 v1
摘要
基于检索的问答系统常因位置偏差导致答案生成次优。我们提出LoRE(Logit-Ranked Retriever Ensemble,Logit排序检索器集成),一种新方法,通过缓解位置偏差来提高答案的准确性和相关性。LoRE采用多样化检索器组成的集成,如BM25和基于FAISS索引的句子转换器。其核心创新是一种基于Logit的答案排序算法,将大语言模型(LLM)的Logit分数与段落检索排名相结合。在NarrativeQA和SQuAD上的实验结果表明,LoRE在精确匹配和F1分数方面显著优于现有检索基方法。在SQuAD上,LoRE相对于基线在ROUGE-L、精确匹配和F1分数上分别实现了14.5%、22.83%和14.95%的提升。定性地,LoRE生成的答案更具相关性和准确性,尤其适用于复杂查询。
引用
@article{arxiv.2410.10042,
title = {LoRE: Logit-Ranked Retriever Ensemble for Enhancing Open-Domain Question Answering},
author = {Saikrishna Sanniboina and Shiv Trivedi and Sreenidhi Vijayaraghavan},
journal= {arXiv preprint arXiv:2410.10042},
year = {2024}
}