几何结构化知识图谱基础模型

结构化知识图谱基础模型旨在将推理泛化到具有未见实体和关系的全新图谱。现有方法（如 Ultra）的一个关键局限在于，它们在消息传递中依赖单一的关系变换（例如逐元素乘法），这可能限制表达能力，且无法捕捉在不同图谱上展现的多样关系与结构模式。在本文中，我们提出了 Gamma，一种将多头几何注意力引入知识图谱推理的新型基础模型。Gamma 用多个并行变换取代单一关系变换，包括基于实数、复数、分裂复数和对偶数的变换，每种变换旨在建模不同的关系结构。随后，一种关系条件注意力融合机制通过带有熵正则化的轻量级门控在链接级别自适应地融合它们，使模型能够稳健地强调最适合每个三元组模式的关系偏置。我们给出了这些代数消息函数的完整形式化，并讨论了它们的组合如何将表达能力提升至超越任何单一空间。在 56 个多样化知识图谱上的综合实验表明，Gamma 在零样本归纳链路预测中始终优于 Ultra，在归纳基准上的平均倒数排名提升了 5.5%，在所有基准上提升了 4.4%，凸显了互补几何表示带来的收益。