Soft-mask：面向图神经网络的自适应子结构提取
机器学习
2022-06-14 v1
摘要
对于图表示学习，并非图内所有细节结构都与给定的图任务相关。任务相关结构可以是局部化或稀疏的，仅涉及子图或由子图的交互表征（一种层次化视角）。图神经网络应能够高效提取任务相关结构并对无关部分保持不变，这对通用消息传递 GNN 而言具有挑战性。在本工作中，我们提出从原始图的子图序列中学习图表示，以更好地捕获任务相关子结构或层次结构并跳过噪声部分。为此，我们设计 soft-mask GNN 层通过掩码机制提取所需子图。soft-mask 定义在连续空间中以保持可微性并表征不同部分的权重。与现有的子图或层次表示学习方法及图池化操作相比，soft-mask GNN 层不受固定采样或丢弃比例的限制，因此更灵活地提取任意大小的子图。在公开图基准上的大量实验表明 soft-mask 机制带来了性能提升。它还提供了可解释性，可视化各层掩码值使我们能够洞察模型学习到的结构。
引用
@article{arxiv.2206.05499,
title = {Soft-mask: Adaptive Substructure Extractions for Graph Neural Networks},
author = {Mingqi Yang and Yanming Shen and Heng Qi and Baocai Yin},
journal= {arXiv preprint arXiv:2206.05499},
year = {2022}
}
备注
The Web Conference (WWW), 2021