深度袋包模型:面向中文电商的高效可解释相关性架构
信息检索
2024-07-15 v1 人工智能
计算与语言
摘要
文本相关性或查询与商品之间的文本匹配是电商搜索系统的关键技术,旨在确保显示的商品能够匹配查询意图。许多研究聚焦于提高搜索系统中相关性模型的性能。最近,类似 BERT 的预训练语言模型在文本相关性任务上取得了令人瞩目的成绩。尽管如此,这些模型在离线测试数据集上表现良好,但在部署到在线系统时仍面临高延迟的障碍。双塔模型因其能够在性能和计算效率之间取得平衡而在工业场景中得到广泛应用。遗憾的是,这类模型呈现出高度不透明的“黑箱”特性,阻碍开发人员进行针对性优化。本文提出深度袋包(DeepBoW)模型,一种面向中文电商的高效可解释相关性架构。我们的做法将查询和商品编码为稀疏的袋包表示,即一组词-权重对。权重表示与原始文本中相应词语的重要性或相关得分。相关性得分通过计算查询稀疏袋包表示与商品稀疏袋包表示之间匹配词的累加来衡量。与通常因黑箱性质而受到批评的稠密分布表示相比,所提表示模型最显著的优势在于高度可解释和可干预,这对于在线搜索引擎的部署和运营具有显著优势。此外,所提模型的在线效率甚至优于最高效的稠密表示的内积形式。
引用
@article{arxiv.2407.09395,
title = {Deep Bag-of-Words Model: An Efficient and Interpretable Relevance Architecture for Chinese E-Commerce},
author = {Zhe Lin and Jiwei Tan and Dan Ou and Xi Chen and Shaowei Yao and Bo Zheng},
journal= {arXiv preprint arXiv:2407.09395},
year = {2024}
}
备注
KDD'24 accepted paper