DREditor：一种构建领域特定稠密检索模型的高效时间方法
信息检索
2024-01-24 v1 计算与语言
摘要
高效部署稠密检索模型在各行各业中变得日益重要。这对于企业搜索服务尤其如此，因为为不同领域的不同企业定制搜索引擎以满足其时间要求至关重要。受此驱动，我们开发了一种名为DREditor的高效时间方法，用于编辑现成稠密检索模型的匹配规则，以适应特定领域。这是通过使用一种高效且有效的线性映射直接校准模型的输出嵌入来实现的。该映射由一个编辑算子驱动，该算子通过求解一个特别构造的最小二乘问题获得。与通过长时间微调进行的隐式规则修改相比，我们的实验结果表明，DREditor在不同的领域特定数据集、数据集来源、检索模型和计算设备上均展现出显著优势。它持续地将时间效率提升了100-300倍，同时保持了可比拟甚至更优的检索性能。在更广泛的背景下，我们迈出了第一步，为检索任务引入了一种新颖的嵌入校准方法，填补了当前嵌入校准领域的技术空白。这种方法也为高效且廉价地构建领域特定稠密检索模型铺平了道路。
引用
@article{arxiv.2401.12540,
title = {DREditor: An Time-efficient Approach for Building a Domain-specific Dense Retrieval Model},
author = {Chen Huang and Duanyu Feng and Wenqiang Lei and Jiancheng Lv},
journal= {arXiv preprint arXiv:2401.12540},
year = {2024}
}
备注
15 pages, 6 figures, Codes are available at https://github.com/huangzichun/DREditor