NumCoKE:基于混合专家与对比学习的知识图谱序数感知数值推理
人工智能
2026-04-21 v4
摘要
知识图谱(KG)作为包括自然语言理解和推荐在内的广泛 AI 应用的核心骨干。数值推理是 KG 上一个极具前景但尚未充分探索的方向,它涉及通过利用符号三元组和数值属性值(例如长度、重量)来推断新的事实。然而,现有方法在两个关键方面存在不足:(1)语义整合不完整:大多数模型难以在统一的表示空间中联合编码实体、关系和数值属性,限制了它们从数值信息中提取关系感知语义的能力。(2)序数不可区分性:由于相近值之间的细微差异和采样不平衡,模型通常无法捕获细粒度的序数关系(例如更长、更重),特别是在存在困难负样本的情况下。为了应对这些挑战,我们提出了 NumCoKE,一个基于混合专家和序数对比嵌入的 KG 数值推理框架。为了克服(C1),我们引入了混合专家知识感知(MoEKA)编码器,该编码器将符号和数值组件联合对齐到共享语义空间中,同时将属性特征动态路由到特定关系的专家。为了处理(C2),我们提出了序数知识对比学习(OKCL),它利用先验知识构建序数感知的正负样本,使模型能够更好地区分细微的语义变化。在三个公开 KG 基准上的大量实验表明,NumCoKE 在不同的属性分布下始终优于有竞争力的基线,验证了其在语义整合和序数推理方面的优越性。
引用
@article{arxiv.2411.12950,
title = {NumCoKE: Ordinal-Aware Numerical Reasoning over Knowledge Graphs with Mixture-of-Experts and Contrastive Learning},
author = {Ming Yin and Zongsheng Cao and Qiqing Xia and Chenyang Tu and Neng Gao},
journal= {arXiv preprint arXiv:2411.12950},
year = {2026}
}
备注
Update