DropEdge：面向节点分类的深度图卷积网络
机器学习
2020-03-13 v4 网络与互联网体系结构
机器学习
摘要
过拟合与过平滑是开发用于节点分类的深度图卷积网络（GCNs）的两个主要障碍。具体而言，过拟合削弱了模型在小数据集上的泛化能力，而过平滑则随着网络深度增加使输出表示与输入特征相隔离，从而阻碍模型训练。本文提出 DropEdge，一种新颖且灵活的技术以缓解这两个问题。其核心在于，在每轮训练中随机移除输入图中的一定数量的边，既充当数据增强器，又作为消息传递缩减器。此外，我们从理论上证明 DropEdge 要么降低过平滑的收敛速度，要么缓解其导致的信息损失。更重要的是，我们的 DropEdge 是一项通用技巧，可配备于许多其他骨干模型（如 GCN、ResGCN、GraphSAGE 和 JKNet）以提升性能。在多个基准上的大量实验验证了 DropEdge 能持续提升各类浅层与深层 GCN 的性能。DropEdge 在防止过平滑方面的效果也通过经验得以可视化与验证。代码发布于~\url{https://github.com/DropEdge/DropEdge}。
引用
@article{arxiv.1907.10903,
title = {DropEdge: Towards Deep Graph Convolutional Networks on Node Classification},
author = {Yu Rong and Wenbing Huang and Tingyang Xu and Junzhou Huang},
journal= {arXiv preprint arXiv:1907.10903},
year = {2020}
}
备注
13 pages