基于双曲神经PDE的连续几何感知图扩散
机器学习
2024-06-10 v2
摘要
尽管双曲图神经网络(HGNN)最近已成为处理层次图数据的强大工具，但可扩展性和效率的限制阻碍了其推广到深层模型。在本文中，通过将深度视为连续时间嵌入演化，我们解耦了HGNN并将信息传播重新构建为偏微分方程，让节点级注意力在双曲神经PDE(HPDE)中承担扩散性的角色。通过引入非欧几里得流形上的理论原理，如场与流、梯度、散度和扩散性，用于HPDE积分，我们讨论了隐式和显式离散化方案以构建数值HPDE求解器。此外，我们提出了双曲图扩散方程(HGDE)——一种灵活的向量流函数，可以积分以获得表达性强的双曲节点嵌入。通过分析嵌入的势能衰减，我们证明了HGDE能够利用局部-全局扩散性函数对低阶和高阶邻近性进行建模。在节点分类、链接预测以及图像-文本分类任务上的实验验证了所提出方法的优越性，该方法以显著优势持续优于各种竞争模型。
引用
@article{arxiv.2406.01282,
title = {Continuous Geometry-Aware Graph Diffusion via Hyperbolic Neural PDE},
author = {Jiaxu Liu and Xinping Yi and Sihao Wu and Xiangyu Yin and Tianle Zhang and Xiaowei Huang and Shi Jin},
journal= {arXiv preprint arXiv:2406.01282},
year = {2024}
}
备注
The short version of this work will appear in the Proceedings of the 2024 European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases (ECML-PKDD 2024)