面向图神经推荐的空间自回归编码
信息检索
2022-08-04 v2 人工智能
机器学习
摘要
包括传统浅层模型和深度图神经网络(GNNs)在内的图嵌入方法在推荐中已带来有前景的应用。然而，浅层模型尤其是基于随机游走的算法由于其优化范式，未能充分利用采样子图或序列中的邻居邻近性。基于GNN的算法存在高阶信息利用不足的问题，且在堆叠过多层时易引发过平滑问题，这可能恶化低度(长尾)物品的推荐，限制表达力与可扩展性。本文中，我们提出一种新颖框架SAC，即空间自回归编码(Spatial Autoregressive Coding)，以统一方式解决上述问题。为充分利用邻居邻近性与高阶信息，我们设计了一种新颖的空间自回归范式。具体而言，我们首先随机掩码多跳邻居，并通过显式多跳注意力整合所有其他周围邻居来嵌入目标节点。随后，我们通过对比编码与掩码邻居的嵌入，并配备一种新的难负采样策略，强化模型学习目标节点的邻居预测编码。为学习面向目标到邻居预测任务的最小充分表示并去除邻居冗余，我们设计了邻居信息瓶颈，通过最大化目标预测编码与掩码邻居嵌入之间的互信息，同时约束编码与周围邻居嵌入之间的互信息。在公开推荐数据集与真实场景网页规模数据集Douyin-Friend-Recommendation上的实验结果表明，SAC相较于最先进的方法具有优越性。
引用
@article{arxiv.2205.09489,
title = {Spatial Autoregressive Coding for Graph Neural Recommendation},
author = {Jiayi Zheng and Ling Yang and Heyuan Wang and Cheng Yang and Yinghong Li and Xiaowei Hu and Shenda Hong},
journal= {arXiv preprint arXiv:2205.09489},
year = {2022}
}
备注
preprint