扬长避短：传统推荐模型与大语言模型的协同智能
信息检索
2024-03-26 v1
摘要
大语言模型（LLMs）的兴起通过增强用户行为建模和内容理解，为推荐系统（RSs）开辟了新机遇。然而，当前将LLMs集成到RSs中的方法仅单独利用LLM或传统推荐模型（CRM）生成最终推荐，而未考虑LLM或CRM各自擅长哪些数据段。为填补这一空白，我们在MovieLens-1M和Amazon-Books数据集上进行了实验，比较了代表性CRM（DCNv2）与LLM（LLaMA2-7B）在不同数据样本组上的性能。我们的发现揭示，LLMs在CRM表现出较低置信度和精度的数据段中表现优异，而CRM擅长的样本对LLM来说相对具有挑战性，需要大量训练数据和较长训练时间才能达到可比性能。这表明LLM与CRM的组合存在潜在协同效应。受这些见解启发，我们提出了传统推荐器与大语言模型的协同推荐（称为CoReLLa）。在此框架中，我们首先联合训练LLM和CRM，并通过对齐损失解决决策边界偏移问题。然后，资源高效且推理时间较短的CRM处理简单和中等样本，而LLM处理对CRM具有挑战性的小部分样本。我们的实验结果表明，CoReLLa显著优于最先进的CRM和LLM方法，突显了其在推荐任务中的有效性。
引用
@article{arxiv.2403.16378,
title = {Play to Your Strengths: Collaborative Intelligence of Conventional Recommender Models and Large Language Models},
author = {Yunjia Xi and Weiwen Liu and Jianghao Lin and Chuhan Wu and Bo Chen and Ruiming Tang and Weinan Zhang and Yong Yu},
journal= {arXiv preprint arXiv:2403.16378},
year = {2024}
}