中文

向暗处学习:以多样负样本提升图卷积神经网络

机器学习 2022-10-04 v1

摘要

图卷积神经网络(GCNs)已被普遍认为是节点表示学习的有效工具。理解 GCNs 的一种有趣方式是将它们视为消息传递机制,其中每个节点通过接受来自其邻居(亦称正样本)的信息来更新其表示。然而,在这些相邻节点之外,图还拥有一个庞大、黑暗且几乎被遗忘的世界,我们在其中可找到非相邻节点(负样本)。在本文中,我们表明这一巨大的暗处世界蕴含着可能对表示学习有用的海量信息。具体而言,它可提供关于节点表示的负向信息。我们的总体思路是为每个节点选取恰当的负样本,并将这些样本中所含的负向信息融入表示更新中。此外,我们表明选取负样本的过程并非易事。因此,我们的论述始于描述良好负样本的标准,继而给出一种行列式点过程算法以高效获取此类样本。由多样负样本所提升的 GCN,在传递消息时联合考量正信息与负信息。实验评估表明,该思路不仅提升了标准表示学习的整体性能,还显著缓解了过平滑问题。

关键词

引用

@article{arxiv.2210.00728,
  title  = {Learning from the Dark: Boosting Graph Convolutional Neural Networks with Diverse Negative Samples},
  author = {Wei Duan and Junyu Xuan and Maoying Qiao and Jie Lu},
  journal= {arXiv preprint arXiv:2210.00728},
  year   = {2022}
}