一种基于提示的推荐表示学习方法：结合大语言模型
信息检索
2024-10-02 v3
摘要
近年来，随着大语言模型（LLM）在自然语言处理（NLP）领域的出现，推荐系统（RS）经历了变革性转变。诸如 GPT-3.5/4 和 Llama 等模型在理解和生成类人文本方面展现出了前所未有的能力。这些 LLM 预训练的海量信息使其具备了从用户和物品的不同上下文信息中捕获更深层语义表示的潜力。尽管 LLM 的蓬勃发展背后蕴藏着巨大潜力，但如何从上下文信息中利用用户-物品偏好，并将其与推荐系统的改进相对齐，这一挑战仍需解决。我们认为，更好地理解用户或物品本身是提升推荐性能的关键因素，因此我们开展了利用 SOTA LLM 生成信息丰富画像的研究。为了提升 LLM 在推荐系统中的语言能力，我们引入了基于提示的推荐表示学习方法（P4R）。在 P4R 框架中，我们利用 LLM 提示策略生成个性化物品画像。随后，使用预训练 BERT 模型进行文本嵌入，将这些画像转换为语义表示空间。此外，我们引入图卷积网络（GCN）进行协同过滤表示。P4R 框架对齐这两个嵌入空间，以解决通用推荐任务。在评估中，我们将 P4R 与 SOTA 推荐模型进行比较，并评估了基于提示的画像生成质量。
引用
@article{arxiv.2409.16674,
title = {A Prompting-Based Representation Learning Method for Recommendation with Large Language Models},
author = {Junyi Chen and Toyotaro Suzumura},
journal= {arXiv preprint arXiv:2409.16674},
year = {2024}
}
备注
Risks: The 1st International Workshop on Risks, Opportunities, and Evaluation of Generative Models in Recommendation