学习控制图卷积网络特征的平滑度
机器学习
2024-10-21 v1 数值分析
数值分析
摘要
Oono和Suzuki [ICLR, 2020]以及Cai和Wang [arXiv:2006.13318]的开创性工作开启了对图卷积网络(GCN)特征平滑度的分析。他们的结果揭示了节点分类准确率与平滑/非平滑特征分量比率之间复杂的经验相关性。然而，有利于节点分类的最优比率是未知的，并且使用ReLU或leaky ReLU激活函数的深层GCN的非平滑特征会减少。在本文中，我们提出了一种新策略，让GCN学习具有期望平滑度（适应数据和任务）的节点特征，以增强节点分类。我们的方法包含三个关键步骤：(1) 我们建立了ReLU或leaky ReLU输入与输出之间的几何关系。(2) 基于我们的几何洞察，我们通过一个可学习项来增强图卷积层(GCL)的消息传递过程，以高效计算的方式调节节点特征的平滑度。(3) 我们研究了使用增强消息传递方案的GCN所能达到的平滑与非平滑特征分量比率。我们大量的数值结果表明，增强的消息传递方案显著改善了GCN及一些相关模型的节点分类。
引用
@article{arxiv.2410.14604,
title = {Learning to Control the Smoothness of Graph Convolutional Network Features},
author = {Shih-Hsin Wang and Justin Baker and Cory Hauck and Bao Wang},
journal= {arXiv preprint arXiv:2410.14604},
year = {2024}
}
备注
48 pages