从潜空间到清晰：利用 KGEPrisma 将知识图谱嵌入转化为可解释结构
人工智能
2025-05-08 v2
摘要
在本文中，我们介绍了一种专为知识图谱嵌入（KGE）模型量身定制的后验局部可解释 AI 方法。这些模型对知识图谱补全至关重要，但因其在捕获知识图谱语义时采用高维潜表示而因其不透明的黑盒性质受到批评。尽管它们在通过高维潜表示捕获知识图谱语义方面取得了显著成功，但其固有的复杂性给可解释性带来了巨大挑战。虽然现有方法如 Kelpie 使用资源密集型的扰动来解释 KGE 模型，但我们的方法直接解码 KGE 模型编码的潜表示，利用嵌入的平滑性，这遵循了相似嵌入反映知识图谱内相似行为的原则，即节点的嵌入相似是因为它们的图邻域看起来相似。这一原则通常被称为平滑性。通过在相似嵌入实体的子图邻域内识别符号结构（以三元组形式），我们的方法识别了模型所依赖的统计规律，并将这些见解转化为人类可理解的符号规则和事实。这弥合了 KGE 模型的抽象表示与其预测输出之间的差距，提供了清晰、可解释的见解。主要贡献包括一种用于 KGE 模型的新型后验局部可解释 AI 方法，该方法无需重新训练即可提供即时、忠实的解释，从而促进在大规模知识图谱上的实时应用。该方法的灵活性使其能够生成基于规则、基于实例和基于类比的解释，满足不同用户的需求。广泛的评估表明了我们的方法在提供忠实且良好局部化的解释方面的有效性，增强了 KGE 模型的透明度和可信度。
引用
@article{arxiv.2406.01759,
title = {From Latent to Lucid: Transforming Knowledge Graph Embeddings into Interpretable Structures with KGEPrisma},
author = {Christoph Wehner and Chrysa Iliopoulou and Ute Schmid and Tarek R. Besold},
journal= {arXiv preprint arXiv:2406.01759},
year = {2025}
}