GraphMoRE:通过黎曼专家混合缓解拓扑异质性
机器学习
2024-12-17 v1 人工智能
摘要
真实世界的图具有内在复杂且多样的拓扑模式,称为拓扑异质性。大多数现有工作在学习单一恒定曲率空间的图表示,这不足以匹配复杂的几何形状,导致低质量的高失真嵌入。这也对图基础模型构成了关键挑战,这些模型期望统一处理各种多样的图数据。最近的研究表明,乘积流形有可能解决拓扑异质性。然而,乘积流形仍然是齐次的,不足以灵活地表示混合的异质拓扑。在本文中,我们提出了一种新颖的图黎曼专家混合(GraphMoRE)框架,通过个性化的细粒度拓扑几何模式保留来有效处理拓扑异质性。具体来说,为了最小化嵌入失真,我们提出了一种拓扑感知的门控机制,为每个节点选择最优嵌入空间。通过融合不同黎曼专家的输出与学习的门控权重,我们为节点构建了个性化的混合曲率空间,有效地将图嵌入到不同点具有不同曲率的异质流形中。此外,为了公平地测量不同嵌入空间之间的成对距离,我们提出了一种简洁有效的对齐策略。在真实世界和合成数据集上的大量实验表明,我们的方法以更低的失真实现了优越的性能,突显了其在建模具有拓扑异质性的复杂图方面的潜力,并为图基础模型提供了新颖的架构视角。
引用
@article{arxiv.2412.11085,
title = {GraphMoRE: Mitigating Topological Heterogeneity via Mixture of Riemannian Experts},
author = {Zihao Guo and Qingyun Sun and Haonan Yuan and Xingcheng Fu and Min Zhou and Yisen Gao and Jianxin Li},
journal= {arXiv preprint arXiv:2412.11085},
year = {2024}
}
备注
Accepted by the Main Technical Track of the 39th Annual AAAI Conference on Artificial Intelligence (AAAI-2025)