ProphetNet-Ads:赞助搜索引擎中生成式检索模型的向前看策略
信息检索
2020-10-22 v1 计算与语言
摘要
在赞助搜索引擎中,近期提出了生成式检索模型来为用户输入查询挖掘相关广告关键词。生成式检索模型在目标库前缀树(Trie)的路径上逐词元生成输出,从而保证所有生成输出均合法且被目标库覆盖。在实际使用中,我们发现由 Trie 约束搜索长度引起的若干典型问题。本文分析这些问题并提出一种名为 ProphetNet-Ads 的面向生成式检索模型的向前看策略。ProphetNet-Ads 通过直接优化 Trie 约束搜索空间来提升检索能力。我们从真实赞助搜索引擎构建数据集并开展实验以分析不同生成式检索模型。相较于近期提出的基于 Trie 的 LSTM 生成式检索模型,我们的单模型结果与集成结果在束宽 5 下分别将召回率提升了 15.58% 与 18.8%。案例研究进一步清晰展示了 ProphetNet-Ads 如何缓解这些问题。
引用
@article{arxiv.2010.10789,
title = {ProphetNet-Ads: A Looking Ahead Strategy for Generative Retrieval Models in Sponsored Search Engine},
author = {Weizhen Qi and Yeyun Gong and Yu Yan and Jian Jiao and Bo Shao and Ruofei Zhang and Houqiang Li and Nan Duan and Ming Zhou},
journal= {arXiv preprint arXiv:2010.10789},
year = {2020}
}
备注
Accepted to NLPCC 2020