中文

CoRAL:协作检索增强大型语言模型改进长尾推荐

信息检索 2024-03-12 v1 人工智能

摘要

由于数据稀疏和数据不平衡问题,长尾推荐对传统推荐系统来说是一项具有挑战性的任务。大型语言模型(LLM)的最新发展展示了其在复杂推理方面的能力,这有助于根据极少的先前交互推断用户的偏好。然而,由于大多数基于 LLM 的系统依赖物品的语义含义作为推理的唯一证据,用户-物品交互的协作信息被忽略了,这可能导致 LLM 的推理与数据集中特定于任务的协作信息不一致。为了进一步使 LLM 的推理与特定于任务的用户-物品交互知识对齐,我们引入了协作检索增强 LLM,即 CoRAL,它将协作证据直接纳入提示中。基于检索到的用户-物品交互,LLM 可以分析用户之间共享和不同的偏好,并总结出指示哪类用户会被特定物品吸引的模式。检索到的协作证据提示 LLM 将其推理与数据集中的用户-物品交互模式对齐。然而,由于输入提示的容量有限,为推荐任务寻找最小充分的协作信息可能具有挑战性。我们提出通过序贯决策过程寻找最优交互集,并开发了一个通过强化学习(RL)框架学习的检索策略,即 CoRAL。我们的实验结果表明,CoRAL 可以显著提高 LLM 在特定推荐任务上的推理能力。我们的分析还表明,CoRAL 可以通过强化学习更有效地探索协作信息。

关键词

引用

@article{arxiv.2403.06447,
  title  = {CoRAL: Collaborative Retrieval-Augmented Large Language Models Improve Long-tail Recommendation},
  author = {Junda Wu and Cheng-Chun Chang and Tong Yu and Zhankui He and Jianing Wang and Yupeng Hou and Julian McAuley},
  journal= {arXiv preprint arXiv:2403.06447},
  year   = {2024}
}

备注

11 pages