用于图实例建模的分割式 Graph-Bert

在图实例表示学习中，图实例大小的多样性与图节点的无序性一直是使现有表示学习模型失效的主要障碍。本文将考察 GRAPH-BERT 在图实例表示学习上的有效性，该模型最初是为节点表示学习任务设计的。为使 GRAPH-BERT 适应新的问题设定，我们将其重新设计为分割式架构，为简便起见本文亦称之为 SEG-BERT（分割式 GRAPH-BERT）。SEG-BERT 不再包含节点顺序可变 inputs 或功能组件，因而可自然处理图节点无序性。此外，SEG-BERT 具有分割式架构并引入三种不同策略来统一图实例大小，即全输入、填充/剪枝与段平移。SEG-BERT 可以无监督方式预训练，并可进一步直接迁移至新任务或进行必要的微调。我们在七个图实例基准数据集上测试了 SEG-BERT 的有效性，其在其中六个上以显著性能优势超越了对比方法。