自适应查询重写：通过对话答案的边际概率对齐重写器
计算与语言
2024-06-18 v1
摘要
查询重写是开放域对话问答（CQA）中 passages 检索的关键技术。它将对话查询去除语境化，转化为适用于常规检索器的自包含问题。现有方法试图在训练重写模型时融合检索器的偏好，但这些方法通常依赖大量注释，如领域内重写或相关 passage 标签，限制了模型的泛化和适应能力。本文引入 AdaQR（自适应查询重写）框架，通过有限的来自种子数据集的重写注释以及完全不包含 passage 标签来训练查询重写模型。我们的 approach 首先仅使用约 10% 的种子数据集训练集重写注释，对紧凑型大型语言模型进行微调。然后利用这些模型为每个查询实例生成重写候选。随后提出一种新方法，通过对话查询条件下对 Top-K passages 的答案概率进行边际化来评估检索器对这些候选的偏好。这作为优化重写器的奖励信号，无需重写或检索注释，利用直接偏好优化（DPO）进行进一步优化。在四个开放域 CQA 数据集上进行的实验表明，AdaQR 不仅在有限注释要求下提升了模型在领域内的能力，还能有效适应来自不同领域的数据集。
关键词
引用
@article{arxiv.2406.10991,
title = {Adaptive Query Rewriting: Aligning Rewriters through Marginal Probability of Conversational Answers},
author = {Tianhua Zhang and Kun Li and Hongyin Luo and Xixin Wu and James Glass and Helen Meng},
journal= {arXiv preprint arXiv:2406.10991},
year = {2024}
}