DeText：一种基于 BERT 的深度文本排序框架
信息检索
2020-08-07 v1 计算与语言
摘要
排序是搜索系统中最重要的组件。大多数搜索系统处理大量自然语言数据，因此有效的排序系统需要对文本语义有深入理解。近来，基于深度学习的自然语言处理（深度 NLP）模型在排序系统中产生了有前景的结果。BERT 是学习上下文嵌入最成功的模型之一，已被应用于捕获搜索排序中复杂的查询-文档关系。然而，这通常通过让每个查询词与每个文档词穷尽交互来实现，对于搜索产品系统的在线服务而言效率低下。本文中，我们研究如何构建高效的基于 BERT 的排序模型以用于工业用例。该方案进一步扩展为一个通用的排序框架 DeText，其已开源并可应用于各类排序产品。DeText 在三个真实世界搜索系统上的离线与在线实验均显示出相对于最先进方法的显著提升。
引用
@article{arxiv.2008.02460,
title = {DeText: A Deep Text Ranking Framework with BERT},
author = {Weiwei Guo and Xiaowei Liu and Sida Wang and Huiji Gao and Ananth Sankar and Zimeng Yang and Qi Guo and Liang Zhang and Bo Long and Bee-Chung Chen and Deepak Agarwal},
journal= {arXiv preprint arXiv:2008.02460},
year = {2020}
}
备注
Ranking, Deep Language Models, Natural Language Processing