使稠密检索器摆脱对话搜索中的捷径依赖
计算与语言
2022-10-20 v2
摘要
对话搜索（CS）需要对对话输入的整体理解以检索相关段落。在本文中，我们证明了 CS 中存在一种检索捷径，它导致模型仅依赖部分历史而忽略最新问题来检索段落。通过深入分析，我们首先表明朴素训练的稠密检索器严重利用该捷径，因此在被要求回答与历史无关的问题时表现很差。为构建对捷径依赖更鲁棒的模型，我们探索了多种难负样本挖掘策略。实验结果表明，使用基于模型的难负样本进行训练有效缓解了对此捷径的依赖，在近期 CS 基准上显著改进了稠密检索器。特别地，我们的检索器在 QReCC 上的 Recall@10 比先前最先进（state-of-the-art）模型高出 11.0。
引用
@article{arxiv.2202.07280,
title = {Saving Dense Retriever from Shortcut Dependency in Conversational Search},
author = {Sungdong Kim and Gangwoo Kim},
journal= {arXiv preprint arXiv:2202.07280},
year = {2022}
}
备注
Accepted to EMNLP 2022 main conference