中文

GARCIA:以多粒度对比学习增强长尾查询表示

机器学习 2023-04-26 v1 信息检索

摘要

近来,服务平台的增长为用户与商家带来极大便利,其中服务搜索引擎通过文本查询快速获取理想结果,在改善用户体验方面发挥着至关重要的作用。遗憾的是,用户不可控的搜索习惯通常带来大量长尾查询,严重威胁搜索模型的能力。受近期兴起的图神经网络(GNNs)与对比学习(CL)启发,已有若干工作致力于缓解长尾问题并取得可观性能。然而,它们仍面临一些主要弱点。最重要的是,它们未显式利用头部与尾部间的上下文结构以进行有效知识迁移,且意图级信息常因追求更泛化表示而被忽略。为此,我们开发了新框架GARCIA,它在对比学习设定下利用基于图的知识迁移与基于意图的表示泛化。特别地,我们采用自适应编码器为查询与服务生成信息丰富的表示,以及意图的层次结构感知表示。为充分理解尾部查询与服务,我们为GARCIA配备新颖的多粒度对比学习模块,通过知识迁移、结构增强与意图泛化来增强表示。随后,完整的GARCIA以预训练&微调方式良好训练。最后,我们在离线与在线环境下进行了大量实验,证明了GARCIA在服务搜索场景中改善尾部查询与整体性能的优越能力。

关键词

引用

@article{arxiv.2304.12537,
  title  = {GARCIA: Powering Representations of Long-tail Query with Multi-granularity Contrastive Learning},
  author = {Weifan Wang and Binbin Hu and Zhicheng Peng and Mingjie Zhong and Zhiqiang Zhang and Zhongyi Liu and Guannan Zhang and Jun Zhou},
  journal= {arXiv preprint arXiv:2304.12537},
  year   = {2023}
}

备注

Accepted by ICDE 2023