理解图神经网络在学习图拓扑中的表示能力
机器学习
2019-11-04 v2 数据分析、统计与概率
机器学习
摘要
为加深对图神经网络的理解，我们通过图矩（graph moments）这一编码不同长度路径的图拓扑关键性质的视角，研究图卷积网络（GCN）的表示能力。我们发现 GCN 在学习图矩方面相当受限。若不仔细设计，即使使用多层和非线性激活函数，GCN 也可能惨败。我们从理论上分析了 GCN 的表达能力，得出一种模块化 GCN 设计，即使用不同传播规则并辅以残差连接，可显著提升 GCN 性能。我们证明此类模块化设计能够区分来自不同图生成模型的图，即便是针对极小的图——这是网络科学中出了名的难题。我们的研究表明，深度比宽度更具影响力，更深的 GCN 更能学习高阶图矩。此外，将具有不同传播规则的 GCN 模块相结合，对 GCN 的表示能力至关重要。
引用
@article{arxiv.1907.05008,
title = {Understanding the Representation Power of Graph Neural Networks in Learning Graph Topology},
author = {Nima Dehmamy and Albert-László Barabási and Rose Yu},
journal= {arXiv preprint arXiv:1907.05008},
year = {2019}
}