GraphSW:一种基于分阶段训练的GNN推荐模型训练协议
信息检索
2019-08-20 v2 机器学习
机器学习
摘要
近年来,研究者利用知识图谱(KG)作为推荐系统中的辅助信息,以解决冷启动和稀疏性问题并提升推荐性能。现有的KG感知推荐模型使用相邻实体的特征和结构信息来更新当前所在实体的嵌入。尽管丰富的信息有益于后续任务,但探索整个图的计算代价巨大且不切实际。为了降低计算成本并保持提取特征的模式,KG感知推荐模型通常利用固定大小且随机的邻居集合,而非KG中的完整信息。然而,这些方法存在两个关键问题:首先,固定大小且随机选取的邻居限制了图的视野。此外,随着图特征阶数的增加,模型参数维度的增长可能导致训练过程难以收敛。为解决上述局限,我们提出GraphSW,一种基于分阶段训练框架的策略,该框架在每一阶段仅访问KG中实体的一个子集。在后续阶段中,前一阶段学习到的嵌入被提供给下一阶段的网络,模型从而能够从KG中逐步学习信息。我们将分阶段训练应用于两个SOTA推荐模型RippleNet和知识图卷积网络(KGCN)。此外,我们在六个真实世界数据集Last.FM 2011、Book-Crossing、movie、LFM-1b 2015、Amazon-book和Yelp 2018上评估了性能。实验结果表明,所提策略可帮助两个模型从KG中收集更多信息并提升性能。进一步观察到,GraphSW能够帮助KGCN在高阶图特征下有效收敛。
引用
@article{arxiv.1908.05611,
title = {GraphSW: a training protocol based on stage-wise training for GNN-based Recommender Model},
author = {Chang-You Tai and Meng-Ru Wu and Yun-Wei Chu and Shao-Yu Chu},
journal= {arXiv preprint arXiv:1908.05611},
year = {2019}
}