大规模双曲图神经网络:一种元学习方法
机器学习
2023-10-31 v1 社会与信息网络
摘要
双曲神经网络(HNNs)研究的进展受其缺乏归纳偏置机制的阻碍,而后者对于泛化到新任务以及促进大规模数据集上的可扩展学习至关重要。本文旨在通过从节点的局部子图中学习可泛化的归纳偏置,并将其迁移以在少样本设定下对具有不相交节点、边和标签集合的新子图实现更快学习,从而缓解这些问题。我们引入一种新方法——双曲图元学习器(H-GRAM),针对节点分类和链接预测任务,从一组支持局部子图中以双曲元梯度和标签双曲原型网络的形式学习可迁移信息,从而能够在处理不相交子图的查询新任务集上实现更快学习。此外,我们展示了元学习框架的一个扩展同样缓解了现有方法在HNNs中面临的可扩展性挑战。对比分析表明,与其他最先进的基线相比,H-GRAM在多个具有挑战性的少样本设定中有效地学习并迁移了信息。另外,我们证明与标准HNNs不同,我们的方法能够扩展到大型图数据集,并优于其欧氏对应方法。
引用
@article{arxiv.2310.18918,
title = {Hyperbolic Graph Neural Networks at Scale: A Meta Learning Approach},
author = {Nurendra Choudhary and Nikhil Rao and Chandan K. Reddy},
journal= {arXiv preprint arXiv:2310.18918},
year = {2023}
}
备注
Accepted to NeurIPS 2023. 14 pages of main paper, 5 pages of supplementary