NTFormer：一种用于节点分类的节点标记图变换器
机器学习
2024-06-28 v1
摘要
最近，新兴的图变换器在图上的节点分类方面取得了显著进展。在大多数图变换器中，关键步骤是将输入图转换为标记序列作为模型输入，以便变换器能够有效学习节点表示。然而，我们注意到现有方法仅通过单一类型标记生成来表达节点的部分图信息。因此，需要针对性策略来编码额外的图特定特征，以确保节点表示学习质量，这限制了模型处理多样图的灵活性。为此，我们提出了一种名为 NTFormer 的新型图变换器以解决此问题。NTFormer 引入一种名为 Node2Par 的新型标记生成器，该生成器为每个节点的不同标记元素构建各种标记序列。这种灵活性使 Node2Par 能够从不同角度生成有价值的标记序列，确保对丰富图特征的全面表达。得益于 Node2Par 的优势，NTFormer仅利用基于变换器的主干结构，而无需图特定的修改来学习节点表示，消除了图特定修改的需求。在包含各类规模异构性和同构性图的多个基准数据集上进行的大量实验表明，NTFormer 在节点分类任务中优于代表性图变换器和图神经网络。
引用
@article{arxiv.2406.19249,
title = {NTFormer: A Composite Node Tokenized Graph Transformer for Node Classification},
author = {Jinsong Chen and Siyu Jiang and Kun He},
journal= {arXiv preprint arXiv:2406.19249},
year = {2024}
}