中文

不遗漏任何用户:用于序列推荐的在线自监督自蒸馏方法

信息检索 2024-04-18 v2 机器学习

摘要

序列推荐方法在现代推荐系统中发挥着关键作用。在面临数据稀疏性的情况下,一个关键挑战在于准确建模用户偏好。为了应对这一挑战,最近的方法利用对比学习(CL)通过最大化原始用户行为序列的两个增强视图的互信息来获取自监督信号。尽管基于 CL 的方法很有效,但它们在为行为数据有限的用户充分利用自监督信号方面遇到了限制,因为具有广泛行为的用户自然会提供更多信息。为了解决这个问题,我们引入了一种新颖的学习范式,称为用于序列推荐的在线自监督自蒸馏(S4S^4Rec),有效地弥合了自监督学习和自蒸馏方法之间的差距。具体来说,我们采用在线聚类根据用户的不同潜在意图熟练地对用户进行分组。此外,利用对抗学习策略来确保聚类过程不受行为长度因素的影响。随后,我们采用自蒸馏来促进从具有广泛行为的用户(教师)到具有有限行为的用户(学生)的知识转移。在四个真实世界数据集上进行的实验验证了所提出方法的有效性。

关键词

引用

@article{arxiv.2404.07219,
  title  = {Leave No One Behind: Online Self-Supervised Self-Distillation for Sequential Recommendation},
  author = {Shaowei Wei and Zhengwei Wu and Xin Li and Qintong Wu and Zhiqiang Zhang and Jun Zhou and Lihong Gu and Jinjie Gu},
  journal= {arXiv preprint arXiv:2404.07219},
  year   = {2024}
}