通过 LLM 嵌入与共现模式实现个性化新闻推荐系统
人工智能
2024-11-12 v1
摘要
在过去两年中，大语言模型（LLMs）取得了快速发展，并展示了显著的新兴能力。与此同时，凭借强大的语义理解和推理能力，LLMs 大大推动了推荐系统领域的快速进步。具体而言，在新闻推荐（NR）中，系统必须理解和处理大量点击新闻文本，以推断候选新闻的点击概率。这一需求超出了传统 NR 模型的能力，但与 LLMs 的优势高度契合。在本文中，我们提出了一种通过 LLM 嵌入与共现模式（LECOP）重塑新闻模型的新型 NR 算法。一方面，我们通过大规模数据集上的对比学习对 LLM 进行微调以编码新闻，从而充分挖掘新闻的语义信息，全面识别用户偏好。另一方面，我们探索了多种共现模式以挖掘协同信息。这些模式包括新闻 ID 共现、Item-Item 关键词共现和 Item 内部关键词共现。上述关键词均由 LLM 生成。据我们所知，这是首次通过 LLM 构建如此详细的共现模式以捕捉协同信息。大量实验证明了我们所提新颖方法的优越性能。
引用
@article{arxiv.2411.06046,
title = {Personalized News Recommendation System via LLM Embedding and Co-Occurrence Patterns},
author = {Zheng Li and Kai Zhange},
journal= {arXiv preprint arXiv:2411.06046},
year = {2024}
}