基于非递归消息传递的自动化异构网络学习
机器学习
2025-01-15 v1
摘要
异构信息网络(HINs)可用于对各种现实世界系统进行建模。由于 HINs 包含多种类型的节点、边和节点特征,将图神经网络(GNN)技术直接应用于异构情况并非易事。目前仍存在两个主要挑战。首先,以递归方式进行的同构消息传递忽略了不同跳中的不同节点和边类型,导致不必要的信息混合。这通常会导致引入来自不相关中间邻居的“噪声”,从而降低性能。其次,不同类型的特征学习应以不同方式处理,这在类型规模较大时尤其具有挑战性。为了弥合这一差距,我们开发了一个新框架——AutoGNR,以直接利用并自动提取有效的异构信息。我们引入了一种用于 GNN 的非递归消息传递机制来替代递归同构消息传递,以减轻 HINs 中来自不相关节点类型的噪声。此外,在非递归框架下,我们设法以可微分的方式高效执行神经架构搜索,以寻找最优的 GNN 结构,从而自动定义用于聚合的异构路径。我们量身定制的搜索空间包含了更有效的候选方案,同时保持了易于处理的规模。实验表明,AutoGNR 在正常和大规模现实世界 HIN 数据集上均始终优于 SOTA 方法。
引用
@article{arxiv.2501.07598,
title = {Automated Heterogeneous Network learning with Non-Recursive Message Passing},
author = {Zhaoqing Li and Maiqi Jiang and Shengyuan Chen and Bo Li and Guorong Chen and Xiao Huang},
journal= {arXiv preprint arXiv:2501.07598},
year = {2025}
}