DiffMG:面向异质图神经网络的可微元图搜索
机器学习
2021-09-28 v3 社会与信息网络
摘要
本文提出一种新颖框架,用于自动利用编码在异质信息网(HINs)中的任务相关语义信息。具体而言,我们搜索一个元图(其能比元路径捕捉更复杂的语义关系),以确定图神经网络(GNNs)如何沿不同类型边传播消息。我们在神经架构搜索(NAS)框架内形式化该问题,并以可微方式执行搜索。我们设计了一种以有向无环图(DAG)形式表示的富有表达力的搜索空间来刻画 HIN 的候选元图,并提出任务相关类型约束以过滤掉那些消息传递对与下游任务相关节点的表示无影响的边类型。我们所定义搜索空间规模巨大,因此进一步提出一种新颖高效的搜索算法,使总搜索成本与单次训练一个 GNN 相当。与现有流行 NAS 算法相比,我们提出的搜索算法提升了搜索效率。我们在不同 HINs 与下游任务上进行了大量实验来评估我们的方法,实验结果表明我们的方法优于最先进的异质 GNNs,并且相比那些能隐式学习元路径的方法也提升了效率。
引用
@article{arxiv.2010.03250,
title = {DiffMG: Differentiable Meta Graph Search for Heterogeneous Graph Neural Networks},
author = {Yuhui Ding and Quanming Yao and Huan Zhao and Tong Zhang},
journal= {arXiv preprint arXiv:2010.03250},
year = {2021}
}
备注
KDD 2021, Research Track; Add refs