Permutohedral-GCN：具有全局注意力的图卷积网络
人工智能
2020-03-03 v1
摘要
图卷积网络（GCNs）通过聚合图中邻居的特征来更新节点的特征向量。这忽略了来自远距离节点潜在有用的贡献。识别此类有用的远距离贡献具有挑战性，原因在于可扩展性问题（可能有过多节点参与贡献）和过平滑（从过多节点聚合特征可能淹没相关信息，并导致节点标签不同但特征不可区分）。我们引入了一种全局注意力机制，使节点可以有选择地关注并聚合图中任意其他节点的特征。注意力系数依赖于可学习节点嵌入之间的欧氏距离，并且我们表明由此产生的基于注意力的全局聚合方案类似于高维高斯滤波。这使得能够使用高效的近似高斯滤波技术来实现我们的基于注意力的全局聚合方案。通过采用基于置换晶格（permutohedral lattice）的近似滤波方法，我们提出的全局聚合方案的时间复杂度仅随节点数量线性增长。由此得到的 GCNs，我们称之为 permutohedral-GCNs，是可微分的并端到端训练，且在多个节点分类基准上达到了最先进的性能。
引用
@article{arxiv.2003.00635,
title = {Permutohedral-GCN: Graph Convolutional Networks with Global Attention},
author = {Hesham Mostafa and Marcel Nassar},
journal= {arXiv preprint arXiv:2003.00635},
year = {2020}
}