基于框架波增广的图神经网络 Dirichlet 能量增强
机器学习
2023-11-13 v1
摘要
图卷积一直是学习图表示的关键要素。然而，利用图卷积递归聚合邻域信息会导致深层中节点特征不可区分，即所谓的过平滑问题。图神经网络的性能随着堆叠层数增加迅速衰减，且与图相关的 Dirichlet 能量也减小到零。本工作中，我们将框架波系统引入 Dirichlet 能量分析，并采取多尺度视角来利用 Dirichlet 能量并缓解过平滑问题。具体而言，我们开发了一种框架波增广策略，通过对低通和高通分别施加正负增量来调整更新规则。基于此，我们设计了能量增强卷积（EEConv），这是一种有效且实用的操作，被证明能严格增强 Dirichlet 能量。从消息传递视角看，EEConv 从框架波变换继承了多跳聚合特性，并考虑了多尺度表示中的所有跳，这有利于异配图上的节点分类任务。实验表明，带有 EEConv 的深度 GNN 在各种节点分类数据集上取得了最先进的性能，尤其在异配图上，同时随着网络加深也提升了 Dirichlet 能量。
引用
@article{arxiv.2311.05767,
title = {Dirichlet Energy Enhancement of Graph Neural Networks by Framelet Augmentation},
author = {Jialin Chen and Yuelin Wang and Cristian Bodnar and Rex Ying and Pietro Lio and Yu Guang Wang},
journal= {arXiv preprint arXiv:2311.05767},
year = {2023}
}