OpenGT：图Transformer综合基准

图Transformer（GTs）最近在 diverse 领域展现出卓越性能。通过注意力机制，GTs能够建模超越局部邻居的长程依赖和复杂结构关系。然而，其适用场景仍未充分探索，这突显了识别其优势何时何地以及为何优势的需要。此外，与GNNs不同，后者主要依赖消息传递机制，GTs在位置编码、注意力机制和图特定适应性方面表现出多样化的设计空间。然而，仍不清楚哪些设计选择是真正有效的以及在何种条件下有效。结果是，社区目前缺乏全面的基准和图书馆，以促进对GTs的更深入理解和进一步发展。为填补这一空白，本文介绍OpenGT，一个图Transformer综合基准。OpenGT通过建立标准化实验设置并纳入广泛选择的SOTA GNNs和GTs，实现公平比较和多维分析。我们的基准从多个角度评估GTs，涵盖 diverse 任务和数据集，具有 varying properties。通过大量实验，我们的基准揭示了若干关键见解，包括模型在任务级别迁移的困难、局部注意力的局限性、几个模型中的效率权衡、特定位置编码的应用场景以及某些位置编码的预处理开销。我们期望此工作为未来的图Transformer研究建立基础，强调公平性、可重复性和通用性。我们开发了一个易于使用的图书馆OpenGT用于训练和评估现有GTs。基准代码可在 https://github.com/eaglelab-zju/OpenGT 获取。