并非所有邻居都值得关注：用于半监督学习的图选择性注意力网络
机器学习
2022-10-31 v2
摘要
图注意力网络（GATs）是分析来自各种真实场景图数据的有力工具。为学习下游任务的表示，GATs 在聚合特征时通常关注中心节点的所有邻居。本文中，我们指出在许多真实图中，大部分邻居与中心节点无关，可排除在邻居聚合之外。受此启发，我们提出选择性注意力（SA）及一系列面向图神经网络（GNNs）的新颖注意力机制。SA 利用多样形式的可学习节点-节点不相似度来获取每个节点的注意力范围，并从中排除无关邻居。我们进一步提出图选择性注意力网络（SATs），以从不同 SA 机制所识别并考察的高度相关节点特征中学习表示。最后，对所提 SATs 表达能力的理论分析，以及在具挑战性真实数据集上针对最先进 GNNs 对 SATs 的全面实证研究，表明了 SATs 的有效性。
引用
@article{arxiv.2210.07715,
title = {Not All Neighbors Are Worth Attending to: Graph Selective Attention Networks for Semi-supervised Learning},
author = {Tiantian He and Haicang Zhou and Yew-Soon Ong and Gao Cong},
journal= {arXiv preprint arXiv:2210.07715},
year = {2022}
}