TeKo:融合外部知识的富文本图神经网络
社会与信息网络
2022-06-16 v1 计算与语言
机器学习
摘要
图神经网络(GNNs)在处理图结构数据(即网络)上的各类分析任务中已广受欢迎。典型的 GNN 及其变体遵循消息传递方式,通过沿网络拓扑的特征传播过程获得网络表示,却忽略了众多真实世界网络中存在的丰富文本语义(如局部词序列)。现有面向富文本网络的方法主要通过利用主题或短语/词等内部信息来整合文本语义,常因无法全面挖掘文本语义而受限,制约了网络结构与文本语义间的相互引导。为解决这些问题,我们提出一种融合外部知识的新型富文本图神经网络(TeKo),以充分利用富文本网络中的结构与文本信息。具体而言,我们首先提出一种灵活的异质语义网络,纳入文档与实体间的高质量实体及交互。随后引入两类外部知识,即结构化三元组与非结构化实体描述,以更深入地洞察文本语义。我们进一步为所构建的异质语义网络设计了一种互易卷积机制,使网络结构与文本语义能够协同增强并学习高级网络表示。在四个公开富文本网络及一个大规模电商搜索数据集上的大量实验结果,表明了 TeKo 相较最先进基线的优越性能。
引用
@article{arxiv.2206.07253,
title = {TeKo: Text-Rich Graph Neural Networks with External Knowledge},
author = {Zhizhi Yu and Di Jin and Jianguo Wei and Ziyang Liu and Yue Shang and Yun Xiao and Jiawei Han and Lingfei Wu},
journal= {arXiv preprint arXiv:2206.07253},
year = {2022}
}