去噪预训练与定制提示学习用于高效多行为序列推荐
信息检索
2024-08-22 v1 人工智能
摘要
在推荐系统领域，用户在与物品交互时表现出多样化的行为。这一现象推动了学习这些行为之间隐含语义关系以提升推荐性能的研究。然而，这些方法通常涉及较高的计算复杂度。为解决效率问题，预训练提供了一种可行的解决方案。其目标是从广泛的预训练数据中提取知识，并对模型进行下游任务的微调。然而，先前的预训练方法主要关注单行为数据，而多行为数据包含显著的噪声。此外，这些方法采用的完全微调策略仍然带来相当大的计算负担。针对这一挑战，我们提出了 DPCPL，即首个专为多行为序列推荐设计的预训练与提示调优范式。具体而言，在预训练阶段，我们首先提出了一种新颖的高效行为挖掘器（EBM），用于在多个时间尺度上过滤噪声，从而有助于理解多行为序列的上下文语义。随后，我们提出使用所提出的定制提示学习（CPL）模块以高度高效的方式调优预训练模型，该模块生成个性化、渐进式且多样化的提示，以有效充分利用预训练模型的潜力。在三个真实数据集上的大量实验明确证明，DPCPL 不仅表现出高效率和有效性，仅需最少的参数调整，而且在多样化的下游任务中超越了最先进性能。
引用
@article{arxiv.2408.11372,
title = {Denoising Pre-Training and Customized Prompt Learning for Efficient Multi-Behavior Sequential Recommendation},
author = {Hao Wang and Yongqiang Han and Kefan Wang and Kai Cheng and Zhen Wang and Wei Guo and Yong Liu and Defu Lian and Enhong Chen},
journal= {arXiv preprint arXiv:2408.11372},
year = {2024}
}