在生成式检索中提前规划：通过同时解码引导自回归生成
信息检索
2024-04-24 v1 计算与语言
摘要
本文引入 PAG—a 一种新的优化和解码方法，用于通过同时解码引导生成式检索模型中文档标识符的自回归生成。为此，PAG 为每个文档构建一组基于集合和顺序的标识符。受信息检索中词袋假设的启发，基于词汇标记构建基于集合的标识符；而顺序标识符则通过对文档的基于相关性的表示进行量化获得。对 MSMARCO 和 TREC 深度学习轨道数据的大量实验显示，PAG 在 MS MARCO 上显著优于最新的生成式检索模型（例如实现 15.6% 的 MRR 提升），同时在查询延迟方面实现了 22 倍的加速。
引用
@article{arxiv.2404.14600,
title = {Planning Ahead in Generative Retrieval: Guiding Autoregressive Generation through Simultaneous Decoding},
author = {Hansi Zeng and Chen Luo and Hamed Zamani},
journal= {arXiv preprint arXiv:2404.14600},
year = {2024}
}
备注
Accepted to SIGIR 2024