从提示到对齐:查询推荐的生成框架
组合数学
2025-04-15 v1
摘要
在现代搜索系统中,搜索引擎常通过各种面板或组件向用户提供相关查询建议,从而帮助用户细化信息需求。传统方法依赖历史搜索日志构建模型,存在冷启动或长尾问题。此外,查询建议、补全或澄清等任务通常由特定设计单独研究,缺乏通用性,阻碍对新应用的适应。尽管近期尝试探索利用大语言模型(LLM)进行查询推荐,但这些方法主要依赖 LLM 的内在知识或外部资源(如 few-shot 示例、检索文档或知识库),忽视了与用户反馈的校准和对齐,限制了实际效用。为此,我们首先提出一种通用的生成式查询推荐(GQR)框架,将 LLM 基于查询的生成与用户偏好对齐。具体而言,我们通过统一通用提示框架,将各种查询推荐任务整合为一个通用框架,利用 LLM 的指令跟随能力实现有效生成。其次,我们提出 CTR 对齐框架,通过训练查询级 CTR 预测器作为过程奖励模型,并采用列表级偏好对齐,以最大化生成查询列表的点击概率。进一步地,鉴于用户发起的查询与模型之间的不一致性(由于将用户发起查询与模型分离),我们在历史日志可用时,通过检索联合查询作为副信息来实现 LLM 与用户主动性的对齐。
引用
@article{arxiv.2504.10207,
title = {Generalized Natural Density $\DF(\mathfrak{F}_n)$ of Fibonacci Word},
author = {Jasem Hamoud and Duaa Abdullah},
journal= {arXiv preprint arXiv:2504.10207},
year = {2025}
}
备注
11 Pages, Comment wellcome!