多域鲁莱维尔图拼接用于构建图基模型

多域图预训练整合来自不同领域的知识以提升目标域中的性能，这对于构建图基模型至关重要。尽管已取得初步成功，但现有的解决方案不足以回答一个根本问题：知识如何在模型预训练和域适应之间整合或迁移？这一理论局限性促使我们重新思考模型预训练与域适应之间的一致性和可转移性。在本文中，我们提出了一种新的鲁莱维尔几何视角，其核心思想是将任意图数据集合并到统一的、光滑的鲁莱维尔流形中，从而实现对知识整合和迁移的系统性理解。为此，我们的关键贡献是神经流形拼接的理论建立，该理论首先使用自适应正交框架描述局部几何，然后将局部片段“拼接”到整体中。基于此理论，我们提出了 GraphGlue 框架，支持基于 EMA 原型的批量预训练，并提供基于几何一致性的可转移性度量。广泛的实验表明，其在 diverse graph domains 中的性能优异。此外，我们经验上验证了 GraphGlue 的几何比例定律，表明更大比例的数据集通过产生更光滑的流形来提高模型的可转移性。代码已公开 https://github.com/RiemannGraph/GraphGlue。