图神经网络中迁移学习的探究
机器学习
2022-02-03 v1
摘要
图神经网络（GNNs）通过将对深度学习模型的成功延伸至图空间而构建。迁移学习已在传统深度学习问题中被证明极为成功：带来更快训练与更优性能。尽管对 GNNs 及其用例的兴趣日增，关于其可迁移性的研究却很少。本研究证明迁移学习在 GNNs 上有效，并描述了源任务与 GNN 的选择如何影响学习可泛化知识的能力。我们在节点分类与图分类背景下使用真实与合成数据进行实验。为此，我们还提供了迁移学习实验的通用方法论，并提出了一种生成合成图分类任务的新算法。我们在合成与真实数据集上比较了 GCN、GraphSAGE 与 GIN 的性能。我们的结果从经验上表明，具有归纳操作的 GNNs 能产生统计显著的迁移提升。进一步，我们显示源任务与目标任务间社区结构的相似性，相较于仅使用节点属性，能带来统计显著的迁移改进。
引用
@article{arxiv.2202.00740,
title = {Investigating Transfer Learning in Graph Neural Networks},
author = {Nishai Kooverjee and Steven James and Terence van Zyl},
journal= {arXiv preprint arXiv:2202.00740},
year = {2022}
}