协同知识融合：基于 LLM 的多任务推荐系统新方法
信息检索
2024-10-29 v1
摘要
由于大语言模型 (LLMs) 具有令人印象深刻的通用智能，将其集成到推荐系统中以更深入地了解人类兴趣和意图的趋势日益增长。现有的基于 LLM 的推荐系统主要利用文本格式的物品属性和用户交互历史，以改进诸如评分预测或可解释推荐等单一任务。然而，这些方法忽略了传统协同信号在识别用户深层意图中的关键作用，并且忽视了任务之间的相互关联。为了解决这些局限性，我们引入了一个名为 CKF 的新框架，专门通过将个性化协同知识融合到 LLM 中来提升多任务推荐。具体而言，我们的方法协同传统协同过滤模型以生成协同嵌入，随后采用元网络为每个用户构建量身定制的个性化映射桥梁。映射后，嵌入被整合到精心设计的提示模板中，然后输入到先进的 LLM 中以表征用户兴趣。为了探究不同推荐任务之间的内在关系，我们开发了 Multi-Lora，这是一种用于多任务优化的新型参数高效方法，擅长明确地分离任务共享和任务特定信息。该方法在 LLM 与推荐场景之间建立了联系，同时通过各种任务之间的相互知识转移丰富了监督信号。在四个大型公开数据集上跨四个常见推荐任务的广泛实验和深入的鲁棒性分析，证实了我们框架的有效性和优越性。
引用
@article{arxiv.2410.20642,
title = {Collaborative Knowledge Fusion: A Novel Approach for Multi-task Recommender Systems via LLMs},
author = {Chuang Zhao and Xing Su and Ming He and Hongke Zhao and Jianping Fan and Xiaomeng Li},
journal= {arXiv preprint arXiv:2410.20642},
year = {2024}
}