稠密检索中近似k近邻搜索的提前退出策略
信息检索
2024-08-12 v1
摘要
学习到的稠密表示是一类广泛使用的技术，用于使用高维嵌入对查询和文档进行编码，从而通过执行近似k近邻搜索（A-kNN）实现检索。使A-kNN搜索高效的一种流行技术基于两级索引，其中文档的嵌入在离线阶段被聚类，在查询处理时，访问与查询最近的固定数量N个聚类以穷举方式计算结果集。在本文中，我们在最先进的提前退出A-kNN基础上构建，提出了一种基于耐心（patience）概念的无监督方法，可以在实现大幅效率提升的同时达到具有竞争力的有效性。此外，我们讨论了一种级联方法，首先识别那些在最近的t << N个聚类中找到其最近邻的查询，然后根据我们的耐心方法或其他最先进策略决定还需要访问多少聚类。使用最先进的稠密检索模型和公开可用资源进行的可复现实验表明，我们的技术在实现高达5倍加速的同时实现了A-kNN效率的提升，而有效性损失可忽略不计。所有使用的代码均可在https://github.com/francescobusolin/faiss_pEE获取。
引用
@article{arxiv.2408.04981,
title = {Early Exit Strategies for Approximate k-NN Search in Dense Retrieval},
author = {Francesco Busolin and Claudio Lucchese and Franco Maria Nardini and Salvatore Orlando and Raffaele Perego and Salvatore Trani},
journal= {arXiv preprint arXiv:2408.04981},
year = {2024}
}
备注
6 pages, published at CIKM 2024