SEGA:面向图对比学习的结结构熵引导锚视图
机器学习
2023-06-12 v2 人工智能
摘要
在对比学习中,“视图”的选择控制着表示所捕获的信息并影响模型性能。然而,主流图对比学习方法通常通过随机破坏或学习来生成视图,这可能导致关键信息丢失与语义信息改变。维持输入图关键信息用于对比学习的锚视图鲜有研究。本文基于图信息瓶颈理论,推导出该锚视图的定义;换言之,\textit{具有输入图关键信息的锚视图应具有最小的结构不确定性}。进而,在结构熵引导下,我们实现了用于图对比学习的锚视图,称为 \textbf{SEGA}。我们在无监督、半监督与迁移学习下关于图分类的多个基准上广泛验证了所提锚视图,并相较最先进方法取得了显著性能提升。
引用
@article{arxiv.2305.04501,
title = {SEGA: Structural Entropy Guided Anchor View for Graph Contrastive Learning},
author = {Junran Wu and Xueyuan Chen and Bowen Shi and Shangzhe Li and Ke Xu},
journal= {arXiv preprint arXiv:2305.04501},
year = {2023}
}
备注
ICML'23