多阶段检索系统中高效且有效的尾延迟最小化
信息检索
2017-12-12 v2
摘要
可扩展的网页搜索系统通常采用多阶段检索架构，其中初始阶段生成一组候选文档，随后被剪枝并重排序。由于后续阶段通常利用机器学习模型使用多种成本各异的特征，减少每个阶段所考虑的文档数量可降低延迟。本工作中，我们提出并验证了一个统一框架，可用于预测广泛的性能敏感参数，这些参数在多阶段搜索架构的所有阶段中在最小化效果损失的同时最小化查询延迟。此外，我们的框架可轻松应用于大规模信息检索（IR）系统，可在无需显式相关性判断的情况下训练，并可针对多种不同的效率-效果权衡，使其非常适合广泛的搜索场景。我们的结果表明，我们能够可靠地基于每个查询预测若干不同参数，同时检测并最小化超出预指定性能预算的尾延迟查询的可能性。作为概念验证，我们利用该预测框架帮助缓解早期检索中尾延迟查询的问题。在标准 ClueWeb09B 集合与 31k 查询上，我们展示了我们的新混合系统能够可靠地实现 200 ms 的最大查询时间，并具有 99.99% 响应时间保证，且整体效果无显著损失。所提出的解决方案实用，并且可以以少量额外开销轻松用于大规模分布式搜索引擎部署。
引用
@article{arxiv.1704.03970,
title = {Efficient and Effective Tail Latency Minimization in Multi-Stage Retrieval Systems},
author = {Joel Mackenzie and J. Shane Culpepper and Roi Blanco and Matt Crane and Charles L. A. Clarke and Jimmy Lin},
journal= {arXiv preprint arXiv:1704.03970},
year = {2017}
}
备注
Update 1: Edited email address