TWIG：通过模拟 KGE 模型迈向预先超参数优化与跨图泛化

在本文中，我们介绍了 TWIG (Topologically-Weighted Intelligence Generation)，这是一种新颖的无嵌入范式，用于模拟知识图谱嵌入 (KGE) 的输出，且仅使用极少量的参数。TWIG 从由图数据拓扑特征组成的输入中学习权重，无需对实体或边的潜在表示进行编码。我们在 UMLS 数据集上的实验表明，单个 TWIG 神经网络几乎可以精确预测最先进的 ComplEx-N3 KGE 模型在所有超参数配置下的结果。为此，它总共使用了 2590 个可学习参数，却准确预测了 1215 种不同超参数组合的结果，而这些组合的总参数量高达 29,322,000。基于这些结果，我们提出两点主张：1) KGE 学习的不是潜在语义，而仅仅是结构模式的潜在表示；2) KGE 中的超参数选择是 KGE 模型和图结构的确定性函数。我们进一步假设，由于 TWIG 可以在无嵌入的情况下模拟 KGE，因此节点和边嵌入对于学习准确预测知识图谱中的新事实并非必需。最后，我们将所有发现归纳在“结构泛化假说”的框架下，该假说表明，“稀疏的”(twiggy) 无嵌入/基于数据结构的学习方法可以使单个神经网络模拟 KGE 性能，或许还能解决来自不同领域、具有不同语义的许多知识图谱中的链接预测任务。