图高速公路网络
机器学习
2020-04-10 v1 机器学习
摘要
图卷积网络（GCN）因其有效性和高效性被广泛用于学习图表示。然而，它们饱受臭名昭著的过平滑问题困扰，即当堆叠许多（>3）图卷积层时，密集连接节点的学习表示收敛为相似向量。在本文中，我们认为 GCN 中使用的重归一化技巧导致了过度同质的信息传播，这是过平滑的根源。为解决该问题，我们提出图高速公路网络（GHNet），其利用门控单元自动平衡 GCN 学习过程中同质性与异质性之间的权衡。门控单元充当直接高速公路，以在特征传播后保持来自节点自身的异质信息。该设计使 GHNet 能够在不发生过平滑的情况下实现每个节点大得多的感受野，从而访问更多的图连接信息。在基准数据集上的实验结果证明了 GHNet 相对于 GCN 及相关模型的优越性能。
引用
@article{arxiv.2004.04635,
title = {Graph Highway Networks},
author = {Xin Xin and Alexandros Karatzoglou and Ioannis Arapakis and Joemon M. Jose},
journal= {arXiv preprint arXiv:2004.04635},
year = {2020}
}