文本即所需:面向序列推荐的语言表示学习
信息检索
2023-05-30 v2
摘要
序列推荐旨在从历史交互中建模动态用户行为。现有方法依赖显式物品 ID 或通用文本特征进行序列建模以理解用户偏好。尽管有前景,这些方法仍难以建模冷启动物品或将知识迁移到新数据集。本文中,我们提出将用户偏好和物品特征建模为可泛化至新物品和新数据集的语言表示。为此,我们提出一个名为 Recformer 的新颖框架,其有效学习用于序列推荐的语言表示。具体而言,我们通过展平由文本描述的物品键值属性,将物品公式化为一个"句子"(词序列),使得用户的一个物品序列成为句子序列。对于推荐,Recformer 被训练以理解"句子"序列并检索下一个"句子"。为编码物品序列,我们设计了一个类似于 Longformer 模型但具有不同嵌入层的双向 Transformer 用于序列推荐。为有效表示学习,我们提出结合语言理解与推荐任务的新型预训练和微调方法。因此,Recformer 可基于语言表示有效推荐下一个物品。在六个数据集上的大量实验证明了 Recformer 在序列推荐上的有效性,尤其在低资源和冷启动设定下。
引用
@article{arxiv.2305.13731,
title = {Text Is All You Need: Learning Language Representations for Sequential Recommendation},
author = {Jiacheng Li and Ming Wang and Jin Li and Jinmiao Fu and Xin Shen and Jingbo Shang and Julian McAuley},
journal= {arXiv preprint arXiv:2305.13731},
year = {2023}
}
备注
accepted to KDD 2023