循环大语言模型候选标记用于查询扩写
信息检索
2025-09-03 v1
摘要
查询扩写 (QE) 通过丰富查询中的相关术语来提高检索性能。最近，大规模语言模型 (LLM) 被用于 QE，但现有方法面临一种权衡：生成多样化术语可提升性能，但会增加计算成本。为解决这一挑战，我们提出候选标记查询扩写 (CTQE)，从单个 LLM 解码通过率中提取多样且相关的术语，利用未被选中的候选标记。这些标记虽然未作为最终输出，但以完整查询为条件，捕获有用信息。通过聚合它们，CTQE 在不增加额外推理成本的情况下实现相关性和多样性，降低了开销和延迟。实验表明，CTQE 在显著降低成本方面提供了强大的检索性能，表现优于或相当于更昂贵的方法。代码已公开：https://github.com/bluejeans8/CTQE
引用
@article{arxiv.2509.02377,
title = {Upcycling Candidate Tokens of Large Language Models for Query Expansion},
author = {Jinseok Kim and Sukmin Cho and Soyeong Jeong and Sangyeop Kim and Sungzoon Cho},
journal= {arXiv preprint arXiv:2509.02377},
year = {2025}
}
备注
CIKM 2025