DAGCN:双重注意力图卷积网络
机器学习
2019-04-05 v1 机器学习
摘要
图卷积网络(GCNs)近年来已成为众多应用中图分析任务最强大的工具之一,应用范围从社交网络、自然语言处理到生物信息学和化学信息学,这得益于其捕捉概念间复杂关系的能力。目前,绝大多数 GCN 使用邻域聚合框架来学习一个连续且紧凑的向量,然后执行池化操作以泛化图嵌入用于分类任务。这些方法在图分类任务中有两个缺点:(1)当仅使用最大的子图结构(-hop neighbor,即 跳邻域)进行邻域聚合时,大量早期信息在图卷积步骤中丢失;(2)所使用的简单平均/求和池化或最大池化会丢失每个节点的特征以及节点间的拓扑结构。在本文中,我们提出一种称为双重注意力图卷积网络(DAGCN)的新框架来解决这些问题。DAGCN 使用一种新颖的注意力图卷积层自动学习不同跳数邻居的重要性,然后采用第二个注意力组件——自注意力池化层,从矩阵图嵌入的各个方面泛化图表示。该双重注意力网络以端到端方式训练用于图分类任务。我们将我们的模型与最先进的图核和其他深度学习方法进行比较。实验结果表明,我们的框架不仅优于其他基线,而且实现了更好的收敛速度。
引用
@article{arxiv.1904.02278,
title = {DAGCN: Dual Attention Graph Convolutional Networks},
author = {Fengwen Chen and Shirui Pan and Jing Jiang and Huan Huo and Guodong Long},
journal= {arXiv preprint arXiv:1904.02278},
year = {2019}
}