中文

基于原子公式单跳推理的逻辑消息传递网络

机器学习 2023-08-29 v4 计算机科学中的逻辑

摘要

知识图谱(KG)上的复杂查询回答(CQA)因潜在支持诸多应用而备受关注。鉴于知识图谱通常不完整,已有研究提出用复杂神经网络参数化集合算子来回答逻辑查询的神经网络模型。然而,此类方法通常从零开始以大量实体与关系嵌入训练神经集合算子,嵌入或神经集合算子是否及如何贡献于性能仍不明确。本文提出一种将 KG 嵌入与神经集合算子解耦的复杂查询回答简易框架。我们提出将复杂查询表示为查询图。在查询图之上,我们提出逻辑消息传递神经网络(LMPNN),将原子公式上的局部单跳推理连接到复杂查询回答的全局逻辑推理。我们利用现有有效 KG 嵌入对原子公式进行单跳推理,其结果被视为 LMPNN 中传递的消息。整体逻辑公式上的推理过程转化为 LMPNN 的前向传播,逐步聚合局部信息以最终预测答案嵌入。跨不同类型查询的复杂逻辑推断随后基于 LMPNN 架构从训练样本中学习。理论上,我们的查询图表示比主流的算子树公式更通用,故本方法适用于更广范围的复杂 KG 查询。实证上,本方法产生了新的最先进神经 CQA 模型。我们的研究弥合了复杂 KG 查询回答任务与知识图谱表示学习长期成果之间的鸿沟。

关键词

引用

@article{arxiv.2301.08859,
  title  = {Logical Message Passing Networks with One-hop Inference on Atomic Formulas},
  author = {Zihao Wang and Yangqiu Song and Ginny Y. Wong and Simon See},
  journal= {arXiv preprint arXiv:2301.08859},
  year   = {2023}
}

备注

Accepted by ICLR 2023. 20 pages, 4 figures, and 9 tables. Our implementation can be found at https://github.com/HKUST-KnowComp/LMPNN . update v4: more accurate comparison about the computational cost between LMPNN and GNN-QE. update v3: typo fix. update v2: add code repository