面向损失函数对知识图谱嵌入性能影响的理解
人工智能
2019-10-11 v2 计算与语言
摘要
知识图谱（KGs）以结构化形式表示世界事实。知识图谱补全利用 KG 中已有事实来发现新事实。基于平移的嵌入模型（TransE）是一种用于知识图谱补全的重要形式。尽管 TransE 在内存和时间上高效，但它在编码对称、自反等关系模式方面存在若干局限。为解决此问题，多数尝试围绕修改 TransE 的评分函数展开，即提出更复杂的评分函数如 Trans(A, D, G, H, R 等)以缓解局限。本文从另一视角处理该问题。我们表明，现有关于 TransE 局限的理论不准确，因为它们忽略了损失函数的影响。据此，我们依据损失函数对 TransE 的主要局限进行理论探究。据我们所知，此前尚未有全面研究。我们表明，通过为 TransE 模型训练选择合适的损失函数，该模型的主要局限得以缓解。这通过为正样本得分设定上界、展示真值区域（即三元组被模型视为正例的区域）加以解释。我们的理论证明与实验结果填补了基于平移的嵌入模型类与损失函数之间的鸿沟。这些理论强调了损失函数选择对模型训练的重要性。我们在不同损失函数上进行的实验评估印证了理论证明，并确认了损失函数对性能的重要性。
引用
@article{arxiv.1909.00519,
title = {Toward Understanding The Effect Of Loss function On Then Performance Of Knowledge Graph Embedding},
author = {Mojtaba Nayyeri and Chengjin Xu and Yadollah Yaghoobzadeh and Hamed Shariat Yazdi and Jens Lehmann},
journal= {arXiv preprint arXiv:1909.00519},
year = {2019}
}