推荐系统中大语言模型的双步接地范式
信息检索
2024-01-02 v2
摘要
随着推荐领域对大语言模型(LLMs)关注的加剧,针对推荐目的优化LLMs(称为LLM4Rec)在提升其推荐有效性方面起着关键作用。然而,现有的LLM4Rec方法常使用受限候选集评估性能,可能无法准确反映模型的整体排序能力。本文旨在研究LLMs的综合排序能力,并提出一种称为BIGRec(Bi-step Grounding Paradigm for Recommendation,推荐双步接地范式)的两步接地框架。它首先通过微调使LLMs生成有意义的物品令牌将其接地到推荐空间,随后识别与生成令牌对应的合适实际物品。通过在两个数据集上的大量实验,我们证实了BIGRec展现出的优越性能、处理少样本场景的能力以及跨多个领域的通用性。此外,我们观察到增加训练样本数量给BIGRec带来的边际收益有限,意味着LLMs由于其强语义先验而吸收流行度与协同过滤等统计信息的能力有限。这些发现也凸显了将多样统计信息整合进LLM4Rec框架的有效性,从而为未来研究指明潜在途径。我们的代码与数据见 https://github.com/SAI990323/Grounding4Rec。
引用
@article{arxiv.2308.08434,
title = {A Bi-Step Grounding Paradigm for Large Language Models in Recommendation Systems},
author = {Keqin Bao and Jizhi Zhang and Wenjie Wang and Yang Zhang and Zhengyi Yang and Yancheng Luo and Chong Chen and Fuli Feng and Qi Tian},
journal= {arXiv preprint arXiv:2308.08434},
year = {2024}
}
备注
17 pages