中文

基于判别性词图的图神经网络

机器学习 2024-10-29 v1 计算与语言

摘要

鉴于图神经网络(GNN)的最新成功及其在复杂数据结构上执行推理的能力,许多研究将 GNN 应用于文本分类任务。在以往的大多数方法中,使用整个语料库构建包含词节点和文档节点的异构图,并使用 GNN 对文档节点进行分类。在这项工作中,我们探索了一种新的判别性词图图神经网络(DGoW-GNN)方法,该方法包含一种新颖的判别性图构建和模型来对文本进行分类。在我们的图构建中,仅包含词节点而不包含文档节点,我们根据标签将训练语料库拆分为不相连的子图,并通过所表示词的点互信息对边进行加权。我们为这种图构建提供了理论动机,它使我们能够将文本分类任务重新表述为游走分类任务。我们还提出了一种新的基于图的文本分类模型,该模型结合了 GNN 和序列模型。我们在七个基准数据集上评估了我们的方法,发现其表现不如几种最先进的基线模型。我们分析了这种性能差异的原因,并假设了其可能发生改变的条件。

关键词

引用

@article{arxiv.2410.20469,
  title  = {Graph Neural Networks on Discriminative Graphs of Words},
  author = {Yassine Abbahaddou and Johannes F. Lutzeyer and Michalis Vazirgiannis},
  journal= {arXiv preprint arXiv:2410.20469},
  year   = {2024}
}