提升Walmart基于嵌入的检索相关性
信息检索
2024-08-16 v2
摘要
基于嵌入的神经检索(Embedding-based Neural Retrieval, EBR)是一种有效的搜索检索方法,用于解决客户查询与产品之间存在的词汇差距。我们EBR系统的最初上线在Walmart显著提升了相关性和加购率[1]。然而,尽管EBR通常能检索出更相关的产品进行重排序,我们仍观察到大量相关性下降的实例。提升检索性能至关重要,因为它直接影响产品重排序并影响客户的购物体验。导致这些下降的因素包括训练数据中的假阳性/假阴性,以及无法处理查询拼写错误。为解决这些问题,本文提出了几种进一步强化EBR模型在检索相关性方面能力的方法。我们引入基于人类相关性反馈的相关性奖励模型(Relevance Reward Model, RRM)。我们利用RRM从训练数据中去除噪声,并通过多目标损失将其蒸馏到我们的EBR模型中。此外,我们提出了提高EBR模型性能的技术,如拼写错误感知训练和半正生成。通过离线相关性评估、在线AB测试以及成功部署到实际生产环境,证明了我们EBR的有效性。[1] Alessandro Magnani 等. 2022. Walmart语义检索. 第28届ACM SIGKDD知识发现与数据挖掘会议论文集. 3495-3503.
引用
@article{arxiv.2408.04884,
title = {Enhancing Relevance of Embedding-based Retrieval at Walmart},
author = {Juexin Lin and Sachin Yadav and Feng Liu and Nicholas Rossi and Praveen R. Suram and Satya Chembolu and Prijith Chandran and Hrushikesh Mohapatra and Tony Lee and Alessandro Magnani and Ciya Liao},
journal= {arXiv preprint arXiv:2408.04884},
year = {2024}
}
备注
8 pages, 3 figures, CIKM 2024