ID-MixGCL：用于图对比学习的身份混合方法
机器学习
2024-01-18 v2 人工智能
摘要
图对比学习（GCL）近期取得了实质性进展。现有 GCL 方法通过比较同一图的两个不同"视图"来学习节点/图表示。这些研究的底层假设是图增强策略能够生成若干不同的图视图，使得图视图在结构上不同但与原始图语义相似，因此在对比学习中原始与增强图/节点的真实标签可视为相同。然而，我们观察到该假设并非总成立。例如，社交网络中超级节点的删除会对其他节点的社区划分产生重大影响。类似地，分子图中节点或边的任何扰动都会改变图的标签。因此，我们认为对图进行增强并相应调整用于对比损失的标签，将有助于编码器学习更好的表示。基于该思想，我们提出 ID-MixGCL，其允许同时插值输入节点与相应身份标签以获得软置信度样本，且具有可控的变化程度，从而在未标记图的自监督训练中捕获细粒度表示。实验结果表明，ID-MixGCL 在图分类与节点分类任务上提升了性能，在 Cora、IMDB-B、IMDB-M 和 PROTEINS 数据集上相较最先进技术（SOTA）取得了 3-29 个绝对百分点的显著提升。
引用
@article{arxiv.2304.10045,
title = {ID-MixGCL: Identity Mixup for Graph Contrastive Learning},
author = {Gehang Zhang and Bowen Yu and Jiangxia Cao and Xinghua Zhang and Jiawei Sheng and Chuan Zhou and Tingwen Liu},
journal= {arXiv preprint arXiv:2304.10045},
year = {2024}
}
备注
10 pages, 7 figures, accepted by IEEE BigData 2023