ARL2：通过自引导自适应相关性标注对齐黑盒大语言模型的检索器
计算与语言
2024-06-05 v2 人工智能
信息检索
机器学习
摘要
检索增强生成通过整合外部知识源中的相关信息来增强大语言模型 (LLMs)。这使得 LLMs 能够适应特定领域并减轻知识密集型任务中的幻觉。然而，由于训练过程分离以及 LLMs 的黑盒性质，现有检索器往往与 LLMs 不对齐。为应对这一挑战，我们提出了 ARL2，一种利用 LLMs 作为标注器的检索器学习技术。ARL2 利用 LLMs 对相关证据进行标注和评分，从而实现从鲁棒的 LLM 监督中学习检索器。此外，ARL2 采用自适应自训练策略来筛选高质量且多样化的相关性数据，从而有效降低标注成本。大量实验证明了 ARL2 的有效性，与最先进方法相比，在 NQ 上准确率提高了 5.4%，在 MMLU 上提高了 4.6%。此外，ARL2 表现出鲁棒的迁移学习能力和强大的零样本泛化能力。我们的代码将发布在 \url{https://github.com/zhanglingxi-cs/ARL2}。
引用
@article{arxiv.2402.13542,
title = {ARL2: Aligning Retrievers for Black-box Large Language Models via Self-guided Adaptive Relevance Labeling},
author = {Lingxi Zhang and Yue Yu and Kuan Wang and Chao Zhang},
journal= {arXiv preprint arXiv:2402.13542},
year = {2024}
}
备注
ACL 2024