多域鲁莱维尔图拼接：构建图基座模型

多域图预训练通过整合不同领域的知识来提升目标领域的性能，这对于构建图基座模型至关重要。尽管已取得初步成功，现有方法常未能回答一个根本问题：知识如何在领域之间进行集成或迁移？这一理论局限性促使我们重新思考模型预训练与领域适应之间的一致性和可转移性。在本文中，我们提出了一种新的鲁莱维尔几何视角，其核心思想是将任意图数据集合并到统一的光滑鲁莱维尔流形中，从而系统性地理解知识的集成与迁移。为实现这一目标，我们的关键贡献是建立了神经流形拼接理论，该理论首先使用自适应正交框架描述局部几何，然后将局部片段“拼接”成连贯的整体。基于该理论，我们提出了GraphGlue框架，支持基于指数移动平均（EMA）原型的批量预训练，并提供基于几何一致性的可转移性度量。大量实验表明，其在多样图领域内表现优异。此外，我们实证验证了GraphGlue的几何尺度定律，表明更大的数据集数量通过产生更光滑的流形来提高模型的可转移性。代码已公开于https://github.com/RiemannGraph/GraphGlue。