稀疏与稠密的融合：基于级联稀疏-稠密表示的统一生成式推荐
信息检索
2025-03-05 v1 人工智能
摘要
生成模型最近在推荐系统中受到关注，它通过直接从用户交互序列中预测物品标识符来实现推荐。然而，现有方法由于量化与序列建模等阶段的分离而遭受严重的信息损失，阻碍了其达到序列稠密检索技术的建模精度和准确性。整合生成式与稠密检索方法仍然是一个关键挑战。为了解决这个问题，我们引入了级联组织双表示生成式检索（COBRA）框架，该框架通过级联过程创新地整合了稀疏语义ID和稠密向量。我们的方法交替生成这些表示，首先生成稀疏ID，以此作为条件辅助生成稠密向量。端到端训练实现了稠密表示的动态细化，从用户-物品交互中捕获语义洞察和协同信号。在推理过程中，COBRA采用由粗到细的策略，从稀疏ID生成开始，并通过生成模型将其细化为稠密向量。我们进一步提出了BeamFusion，这是一种将束搜索与最近邻分数相结合的创新方法，以增强推理灵活性和推荐多样性。在公开数据集和离线测试上的大量实验验证了我们方法的鲁棒性。在一个拥有超过2亿日活用户的真实广告平台上进行的在线A/B测试表明，关键指标得到了显著改善，突显了COBRA的实际优势。
引用
@article{arxiv.2503.02453,
title = {Sparse Meets Dense: Unified Generative Recommendations with Cascaded Sparse-Dense Representations},
author = {Yuhao Yang and Zhi Ji and Zhaopeng Li and Yi Li and Zhonglin Mo and Yue Ding and Kai Chen and Zijian Zhang and Jie Li and Shuanglong Li and Lin Liu},
journal= {arXiv preprint arXiv:2503.02453},
year = {2025}
}