具有不可知分布偏移的图上的稳定预测
机器学习
2021-10-11 v1 社会与信息网络
摘要
图是一种灵活且有效的工具，用于表示实践中的复杂结构，图神经网络（GNNs）已被证明在各种随机划分训练与测试数据的图任务上有效。然而在真实应用中，训练图的分布可能与测试图不同（例如，推荐系统中用户-物品训练图上用户的交互与其在测试环境即物品上的实际偏好已知存在不一致）。此外，在训练 GNNs 时测试数据的分布总是不可知的。因此，我们面临图学习上训练与测试之间的不可知分布偏移，这将导致传统 GNNs 在不同测试环境下推理不稳定。为解决该问题，我们提出一种新颖的 GNNs 稳定预测框架，其允许图上的局部与全局稳定学习和预测。具体地，由于 GNNs 中每个节点部分由其邻居表示，我们提出通过重新加权信息传播/聚合过程来捕获每个节点的稳定属性（局部稳定）。对于全局稳定性，我们提出一种稳定正则化器，其在异构环境上降低训练损失，从而约束 GNNs 以良好泛化。我们在多个图基准以及一个在促销节期间连续 5 天收集的含噪声工业推荐数据集上进行了大量实验。结果表明，我们的方法在具有不可知分布偏移（包括由节点标签和属性引起的偏移）的图上稳定预测方面优于各种 SOTA GNNs。
引用
@article{arxiv.2110.03865,
title = {Stable Prediction on Graphs with Agnostic Distribution Shift},
author = {Shengyu Zhang and Kun Kuang and Jiezhong Qiu and Jin Yu and Zhou Zhao and Hongxia Yang and Zhongfei Zhang and Fei Wu},
journal= {arXiv preprint arXiv:2110.03865},
year = {2021}
}
备注
11 pages, 6 figures