自监督遇见核图神经模型：从架构到数据增广
机器学习
2023-10-18 v1
摘要
图表示学习已成为处理图结构数据的事实标准，其中消息传递图神经网络（MPNN）框架是最流行的算法工具。尽管流行，MPNN 家族存在诸如可解释性与表达能力不足等缺陷。近来，利用图核理论在图上设计神经模型的思路作为一种比 MPNN 更可解释且有时更具表达力的替代方案而出现，称为核图神经网络（KGNNs）。KGNNs 的发展目前是新兴研究领域，在算法设计与适配其他学习范式（如自监督学习）方面存在若干挑战。本文改进 KGNNs 的设计与学习。首先，我们扩展 KGNNs 的算法表述，允许更灵活的图级相似性定义，涵盖随机游走图核等先前方案，并提供更平滑的优化目标，从而免去引入组合学习步骤的需要。其次，我们通过开发一种称为隐图增广（LGA）的新型保持结构图数据增广方法，从自监督视角增强 KGNNs。最后，我们进行广泛的实证评估以证明所提机制的有效性。在基准数据集上的实验结果表明，我们提出的模型取得了具有竞争力的性能，在图分类任务上可与最先进的图表示学习框架媲美，或有时超越带或不带自监督的此类框架。与其他已确立的图数据增广方法对比验证了所提 LGA 增广方案能更好地捕捉图级不变性的语义。
引用
@article{arxiv.2310.11281,
title = {Self-supervision meets kernel graph neural models: From architecture to augmentations},
author = {Jiawang Dan and Ruofan Wu and Yunpeng Liu and Baokun Wang and Changhua Meng and Tengfei Liu and Tianyi Zhang and Ningtao Wang and Xing Fu and Qi Li and Weiqiang Wang},
journal= {arXiv preprint arXiv:2310.11281},
year = {2023}
}