图神经网络中基于曲率的池化方法
机器学习
2023-09-01 v1 人工智能
摘要
过度压缩（over-squashing）与过度平滑（over-smoothing）是限制图神经网络（GNNs）能力的两个关键问题。过度平滑消除了节点间的差异使其不可区分，而过度压缩指 GNNs 无法在长距离上传播信息，因为指数级多的节点状态被压缩进固定大小的表示中。这两种现象有相似的成因，很大程度上都由图拓扑引起。为缓解图分类任务中的这些问题，我们提出一种新颖的池化方法 CurvPool。CurvPool 利用图的曲率概念自适应地识别导致过度平滑与过度压缩的结构。通过基于 Balanced Forman 曲率对节点聚类，CurvPool 构建出结构更合适的图，允许更深的模型并组合远距离信息。我们将其与其他最先进的池化方法比较，确立了其在分类精度、计算复杂度和灵活性方面的竞争力。CurvPool 在所有考虑的任务中优于若干可比方法。最一致的结果通过使用求和聚合对稠密连接的簇进行池化取得，因为这允许关于每个池大小的额外信息。
引用
@article{arxiv.2308.16516,
title = {Curvature-based Pooling within Graph Neural Networks},
author = {Cedric Sanders and Andreas Roth and Thomas Liebig},
journal= {arXiv preprint arXiv:2308.16516},
year = {2023}
}
备注
ECMLPKDD 2023 - Workshop on Mining and Learning with Graphs