MIRA：利用深度神经网络在网页级文档检索中融合多意图共点击信息
信息检索
2020-07-06 v1 计算与语言
机器学习
摘要
我们研究工业网页搜索中的深度召回模型问题，即给定用户查询，从数十亿候选文档中检索出数百个最相关的文档。通用框架是训练两个基于神经嵌入的编码模型，分别学习查询与文档的分布式表示，并在潜在语义空间中进行匹配。然而，所有现有编码模型仅利用文档自身的信息，这在与查询词匹配时往往不够充分，尤其对于长尾查询。本文旨在利用每个文档来自其共点击邻居的额外信息来辅助文档检索。挑战包括如何在深度模型中有效提取信息并消除噪声，同时满足数十亿级数据规模下实时在线推理的需求。为处理共点击关系中的噪声，我们首先提出一种网页级多意图共点击文档图（MICG），该图在点击意图层面而非文档层面构建文档间的共点击连接。随后，我们提出基于 Bert 和图注意力网络的编码框架 MIRA，利用双因子注意力机制聚合邻居信息。为满足在线延迟要求，我们仅在文档侧引入邻居信息，从而节省实时服务中耗时的查询端邻居搜索。我们在公开数据集和来自两个主要商业搜索引擎的私有网页级数据集上进行了广泛的离线实验，证明了所提方法相较于多个基线模型的有效性和可扩展性。进一步的案例分析揭示，共点击关系主要从两个方面帮助提升网页搜索质量：关键概念增强和查询词互补。
引用
@article{arxiv.2007.01510,
title = {MIRA: Leveraging Multi-Intention Co-click Information in Web-scale Document Retrieval using Deep Neural Networks},
author = {Yusi Zhang and Chuanjie Liu and Angen Luo and Hui Xue and Xuan Shan and Yuxiang Luo and Yiqian Xia and Yuanchi Yan and Haidong Wang},
journal= {arXiv preprint arXiv:2007.01510},
year = {2020}
}