神经雪花:通过可训练潜几何实现通用潜图推断
机器学习
2025-03-11 v2 离散数学
神经与进化计算
度量几何
摘要
图神经网络(GNN)的归纳偏置很大程度上编码于其指定的图中。潜图推断依赖潜几何表示来动态重连或推断GNN的图以最大化GNN的预测下游性能,但它在基于嵌入的表示保证方面缺乏坚实的理论基础。本文通过引入一种称为神经雪花的可训练深度学习架构来解决此问题,该架构能自适应地在上实现分形类度量。我们证明任何给定的有限加权图都能被标准MLP编码器等距嵌入。此外,当潜图能在充分正则核的特征空间中表示时,我们表明结合神经雪花和MLP编码器不会陷入维数灾难,仅使用节点数量的低次多项式数量的参数。该实现实现了潜图的低维等距嵌入。我们进行合成实验以展示神经雪花相较于更常见的空间(如欧氏空间)具有更优的度量学习能力。此外,我们在图基准上开展潜图推断实验。神经雪花模型一致地达到了与最先进潜图推断模型相匹配或超越的预测性能。重要的是,该性能提升无需搜索最优潜几何的随机搜索即可实现。相反,神经雪花模型以可微分方式实现此增强。
引用
@article{arxiv.2310.15003,
title = {Neural Snowflakes: Universal Latent Graph Inference via Trainable Latent Geometries},
author = {Haitz Sáez de Ocáriz Borde and Anastasis Kratsios},
journal= {arXiv preprint arXiv:2310.15003},
year = {2025}
}
备注
9 Pages + Appendix, 2 Figures, 9 Tables