超参数对知识图谱嵌入质量影响的评估
人工智能
2022-07-06 v3 计算与语言
社会与信息网络
摘要
将知识图谱嵌入低维空间是一种对这些数据库应用链接预测或节点分类等方法的热门手段。该嵌入过程在计算时间和空间上均十分昂贵。部分原因在于超参数的优化，这涉及从庞大的超参数空间中通过随机、引导或暴力选择反复采样，并测试所得嵌入的质量。然而，该搜索空间中的超参数并非同等重要。事实上，若事先了解超参数的相对重要性，某些超参数可完全从搜索中剔除，而不会显著影响输出嵌入的整体质量。为此，我们进行了Sobol敏感性分析，以评估不同超参数调优对嵌入质量方差的影响。这通过执行数千次嵌入试验实现，每次测量不同超参数配置所产生的嵌入质量。我们将嵌入质量对这些超参数配置进行回归，利用该模型生成各超参数的Sobol敏感性指数。通过评估Sobol指数间的相关性，我们发现不同知识图谱间的超参数敏感性存在显著变异，数据集特征差异可能是造成这些不一致的原因。作为本工作的另一贡献，我们识别了UMLS知识图谱中若干可能通过逆关系导致数据泄漏的关系，并推导提出了该图谱的泄漏鲁棒变体UMLS-43。
引用
@article{arxiv.2207.00473,
title = {Assessing the Effects of Hyperparameters on Knowledge Graph Embedding Quality},
author = {Oliver Lloyd and Yi Liu and Tom Gaunt},
journal= {arXiv preprint arXiv:2207.00473},
year = {2022}
}