图熵引导的图神经网络节点嵌入维度选择
机器学习
2021-09-01 v5 人工智能
摘要
图表示学习已在电子商务、化学、生物等诸多领域取得巨大成功。然而,为给定图选择适当节点嵌入维度这一基本问题仍待解决。常用的基于网格搜索或经验知识的节点嵌入维度选择(NEDS)策略存在计算繁重和模型性能差的问题。本文从最小熵原理视角重新审视NEDS,随后提出一种新颖的面向图数据NEDS的最小图熵(MinGE)算法。具体而言,MinGE同时考虑图上的特征熵与结构熵,二者依据图中丰富信息的特性精心设计的。特征熵假设相邻节点嵌入更相似,将节点特征与图的链接拓扑相连;结构熵以归一化度为基本单元进一步度量图的高阶结构。基于此,我们设计MinGE直接计算出任意图的理想节点嵌入维度。最后,在基准数据集上利用流行图神经网络(GNNs)的综合实验证明了我们所提MinGE的有效性与泛化性。
引用
@article{arxiv.2105.03178,
title = {Graph Entropy Guided Node Embedding Dimension Selection for Graph Neural Networks},
author = {Gongxu Luo and Jianxin Li and Jianlin Su and Hao Peng and Carl Yang and Lichao Sun and Philip S. Yu and Lifang He},
journal= {arXiv preprint arXiv:2105.03178},
year = {2021}
}