面向节点特征与图结构多样性的节点丢弃图池化探索
机器学习
2023-06-23 v1
摘要
池化操作对于有效的图级表示学习至关重要,其中节点丢弃池化已成为主流的图池化技术之一。然而,当前的节点丢弃池化方法通常根据节点的重要性得分保留前 k 个节点,忽略了节点特征与图结构方面的图多样性,从而导致次优的图级表示。为解决上述问题,我们提出一种新颖的即插即用得分方案,称为 MID,其由一个包含两种操作的多维得分空间组成,即 flipscore(翻转得分)与 dropscore(丢弃得分)。具体而言,多维得分空间通过多重准则刻画节点的重要性;flipscore 鼓励保留不相似的节点特征;dropscore 迫使模型关注多样的图结构,而非陷入显著局部结构。为评估所提 MID 的有效性,我们将其应用于多种近期节点丢弃池化方法(包括 TopKPool、SAGPool、GSAPool 与 ASAP)进行大量实验。具体而言,在十七个真实图分类数据集上,所提 MID 可针对上述四种方法高效且一致地取得约 2.8% 的平均提升,其中包括四个社交数据集(IMDB-BINARY、IMDB-MULTI、REDDIT-BINARY 与 COLLAB)和十三个生化数据集(D&D、PROTEINS、NCI1、MUTAG、PTC-MR、NCI109、ENZYMES、MUTAGENICITY、FRANKENSTEIN、HIV、BBBP、TOXCAST 与 TOX21)。代码可在 https://github.com/whuchuang/mid 获取。
引用
@article{arxiv.2306.12726,
title = {On Exploring Node-feature and Graph-structure Diversities for Node Drop Graph Pooling},
author = {Chuang Liu and Yibing Zhan and Baosheng Yu and Liu Liu and Bo Du and Wenbin Hu and Tongliang Liu},
journal= {arXiv preprint arXiv:2306.12726},
year = {2023}
}
备注
14 pages, 14 figures