具有自注意力的多尺度图卷积网络
机器学习
2021-12-08 v1
摘要
图卷积网络(GCNs)近年来在处理各种图结构数据方面取得了卓越的学习能力。一般而言,深层 GCNs 表现不佳,因为传统 GCNs 中的图卷积是拉普拉斯平滑的一种特殊形式,这使得不同节点的表示变得不可区分。文献中曾将多尺度信息引入 GCNs 以增强其表达能力。然而,过平滑现象作为 GCNs 的一个关键问题仍有待解决和探究。本文中,我们通过将自注意力机制和多尺度信息融入 GCNs 的设计,提出了两种新颖的多尺度 GCN 框架。我们的方法大幅提升了 GCNs 模型的计算效率和预测精度。在节点分类和图分类上的大量实验证明了其相对于几种最先进 GCNs 的有效性。值得注意的是,所提出的两种架构能有效缓解 GCNs 的过平滑问题,且我们的模型层数甚至可增加至 。
引用
@article{arxiv.2112.03262,
title = {Multi-scale Graph Convolutional Networks with Self-Attention},
author = {Zhilong Xiong and Jia Cai},
journal= {arXiv preprint arXiv:2112.03262},
year = {2021}
}