E2EG：利用图拓扑与基于文本的节点属性进行端到端节点分类
机器学习
2023-09-27 v2 社会与信息网络
摘要
利用基于文本的节点属性进行节点分类具有许多现实应用，从学术引用图中论文主题的预测到社交媒体网络中用户特征的分类。最先进的节点分类框架（如 GIANT）使用两阶段流水线：首先嵌入图节点的文本属性，然后将所得嵌入输入节点分类模型。在本文中，我们消除了这两个阶段，并基于 GIANT 开发了一个端到端节点分类模型，称为 End-to-End-GIANT（E2EG）。我们的方法中主分类目标与辅助分类目标的串联使用产生了一个更鲁棒的模型，使得 BERT 主干可以替换为蒸馏编码器，参数数量减少 25%–40%。此外，模型的端到端特性增加了易用性，因为它避免了为节点分类而串联多个模型的需要。与 ogbn-arxiv 和 ogbn-products 数据集上的 GIANT+MLP 基线相比，E2EG 在转导设定下获得了略好的准确率（+0.5%），同时将模型训练时间减少多达 40%。我们的模型也适用于归纳设定，比 GIANT+MLP 高出多达 +2.23%。
引用
@article{arxiv.2208.04609,
title = {E2EG: End-to-End Node Classification Using Graph Topology and Text-based Node Attributes},
author = {Tu Anh Dinh and Jeroen den Boef and Joran Cornelisse and Paul Groth},
journal= {arXiv preprint arXiv:2208.04609},
year = {2023}
}
备注
Accepted to MLoG - IEEE International Conference on Data Mining Workshops ICDMW 2023