面向冷启动用户与物品表示的图神经网络预训练
信息检索
2020-12-15 v1
摘要
冷启动问题是推荐任务中的根本性挑战。尽管近期图神经网络(GNNs)通过融入高阶协同信号以缓解该问题,冷启动用户与物品的嵌入并未被显式优化,且 GNNs 图卷积中的冷启动邻居也未得到处理。本文提出在将 GNN 模型应用于推荐之前先对其进行预训练。与推荐目标不同,预训练 GNN 从具有充分交互的用户/物品中模拟冷启动场景,并将嵌入重构作为前置任务,从而可直接提升嵌入质量并易于适配新的冷启动用户/物品。为进一步降低冷启动邻居的影响,我们引入基于自注意力的元聚合器以增强各图卷积步的聚合能力,以及自适应邻居采样器以根据预训练 GNN 模型的反馈筛选有效邻居。在三个公开推荐数据集上的实验表明,我们的预训练 GNN 模型在用户/物品嵌入推断与推荐任务上均优于原始 GNN 模型。
引用
@article{arxiv.2012.07064,
title = {Pre-Training Graph Neural Networks for Cold-Start Users and Items Representation},
author = {Bowen Hao and Jing Zhang and Hongzhi Yin and Cuiping Li and Hong Chen},
journal= {arXiv preprint arXiv:2012.07064},
year = {2020}
}