连接物品与语言:基于大语言模型推荐的过渡范式
信息检索
2024-07-26 v2
摘要
利用大语言模型(LLMs)进行推荐正迅速兴起,其依赖于两个基本步骤来桥接推荐物品空间与语言空间:1)物品索引利用标识符在语言空间中表示物品;2)生成对齐将LLM生成的词元序列关联到语料库内物品。然而,先前的方法在这两个步骤中存在固有局限。现有的基于ID的标识符(如数字ID)和基于描述的标识符(如标题)要么丢失语义,要么缺乏充分区分性。此外,先前的生成对齐方法可能生成无效标识符,从而与语料库内物品错位。为解决这些问题,我们提出一种用于基于LLM推荐器的新型过渡范式(命名为TransRec)来桥接物品与语言。具体而言,TransRec提出多方面标识符,同时纳入ID、标题和属性进行物品索引,以兼顾区分性与语义。此外,我们为TransRec引入专门的数据结构以确保仅生成有效标识符,并利用子串索引鼓励LLM从标识符的任意位置生成。最后,TransRec提出一种聚合对齐模块,利用生成的多方面标识符高效地对语料库内物品排序。我们在BART-large和LLaMA-7B两个骨干模型上实例化TransRec。在三个真实世界数据集上多种设置下的广泛结果验证了TransRec的优越性。
引用
@article{arxiv.2310.06491,
title = {Bridging Items and Language: A Transition Paradigm for Large Language Model-Based Recommendation},
author = {Xinyu Lin and Wenjie Wang and Yongqi Li and Fuli Feng and See-Kiong Ng and Tat-Seng Chua},
journal= {arXiv preprint arXiv:2310.06491},
year = {2024}
}
备注
Accepted by KDD 2024