面向 Top-$N$ 推荐的课程预训练异质子图 Transformer
信息检索
2021-06-15 v1
摘要
由于建模数据异质性的灵活性,异质信息网(HIN)已被用于刻画 Top- 推荐系统中复杂且异质的辅助数据,称为\emph{基于 HIN 的推荐}。HIN 刻画复杂、异质的数据关系,包含多种可能与推荐任务无关的信息。因此,如何有效利用 HIN 中有用信息以提升推荐性能具有挑战性。针对上述难题,我们提出一种基于课程预训练的异质子图 Transformer(称为 \emph{CHEST}),其具有新的\emph{数据刻画}、\emph{表示模型}与\emph{学习算法}。具体而言,我们考虑从 HIN 中提取有用信息以构成交互特定的异质子图,其中包含充分且与推荐相关的上下文信息。随后我们通过异质子图 Transformer 捕获子图内的丰富语义(如图结构与路径语义),其中我们以多槽序列表示对子图进行编码。此外,我们设计了一种课程预训练策略以提供由浅入深的学习过程,借此我们将 HIN 中的基础语义平滑迁移以建模用户-物品交互关系。在三个真实世界数据集上开展的广泛实验证明了我们所提方法相对于众多竞争基线的优越性,尤其在仅有有限训练数据可用时。
引用
@article{arxiv.2106.06722,
title = {Curriculum Pre-Training Heterogeneous Subgraph Transformer for Top-$N$ Recommendation},
author = {Hui Wang and Kun Zhou and Wayne Xin Zhao and Jingyuan Wang and Ji-Rong Wen},
journal= {arXiv preprint arXiv:2106.06722},
year = {2021}
}
备注
26 pages