HyPE-GT：图变换器遇见双曲位置编码
机器学习
2023-12-12 v1
摘要
图变换器（GT）通过计算节点对的自注意力来促进图结构数据的理解，而不考虑节点位置信息。为了解决这一局限性，我们引入了一个创新且高效的框架，该框架将位置编码（PE）引入变换器，在双曲空间（非欧几里得域）中生成一组可学习的位置编码。这种方法使我们能够探索针对特定下游任务最优选择PE的各种选项，利用双曲神经网络或双曲图卷积网络。此外，我们重新利用这些位置编码来减轻深度图神经网络（GNN）中过度平滑的影响。在分子基准数据集、合著网络和共同购买网络上的全面实验证实了双曲位置编码在增强深度GNN性能方面的有效性。
引用
@article{arxiv.2312.06576,
title = {HyPE-GT: where Graph Transformers meet Hyperbolic Positional Encodings},
author = {Kushal Bose and Swagatam Das},
journal= {arXiv preprint arXiv:2312.06576},
year = {2023}
}