一种面向冷启动推荐的多策略预训练方法
信息检索
2022-05-24 v4 人工智能
摘要
冷启动问题是推荐任务的一个根本性挑战。近期基于图神经网络（GNNs）的自监督学习（SSL）模型 PT-GNN 通过预训练 GNN 模型来重建冷启动嵌入，已展现出在冷启动推荐上的巨大潜力。然而，由于过平滑问题，PT-GNN 只能捕获至多 3 阶关系，无法提供太多有用的辅助信息来刻画目标冷启动用户或物品。此外，嵌入重建任务仅考虑用户与物品子图内的相关性，而忽略了不同子图间的跨相关性。为应对上述挑战，我们提出一种面向冷启动推荐的多策略预训练方法（MPT），从模型架构与前置任务两方面扩展 PT-GNN 以提升冷启动推荐性能。具体而言，在模型架构上，除 GNN 编码器捕获的用户与物品的短程依赖外，我们引入 Transformer 编码器捕获长程依赖。在前置任务上，除通过嵌入重建任务考虑用户与物品子图内相关性外，我们增加嵌入对比学习任务以捕获用户与物品的跨相关性。我们在元学习设定下于这些前置任务上训练 GNN 与 Transformer 编码器，以模拟真实冷启动场景，使模型能轻松快速地适配新的冷启动用户与物品。在三个公开推荐数据集上的实验表明了所提 MPT 模型相对于原始 GNN 模型、在用户/物品嵌入推断上的预训练 GNN 模型及推荐任务的优越性。
引用
@article{arxiv.2112.02275,
title = {A Multi-Strategy based Pre-Training Method for Cold-Start Recommendation},
author = {Bowen Hao and Hongzhi Yin and Jing Zhang and Cuiping Li and Hong Chen},
journal= {arXiv preprint arXiv:2112.02275},
year = {2022}
}