HaSa:感知困难度与结构的对比知识图谱嵌入
人工智能
2023-10-17 v2 计算与语言
摘要
我们考虑通过 InfoNCE 将对比学习方法用于知识图谱嵌入(KGE)。对于 KGE,高效学习依赖于用负三元组扩充训练数据。然而,多数 KGE 工作忽视了生成负三元组所带来的偏差——即假负三元组(知识图谱中缺失的事实三元组)。我们认为,生成高质量(即困难)负三元组可能导致假负三元组增多。为减轻生成困难负三元组过程中假负三元组的影响,我们提出困难度与结构感知(\textbf{HaSa})对比 KGE 方法,其在生成困难负三元组的同时缓解假负三元组的影响。实验表明,HaSa 提升了基于 InfoNCE 的 KGE 方法的性能,并在 WN18RR 数据集的若干指标上取得最先进结果,相较于经典及基于预训练语言模型(LM)的 KGE 方法,在 FB15k-237 数据集上也取得了具竞争力的结果。
引用
@article{arxiv.2305.10563,
title = {HaSa: Hardness and Structure-Aware Contrastive Knowledge Graph Embedding},
author = {Honggen Zhang and June Zhang and Igor Molybog},
journal= {arXiv preprint arXiv:2305.10563},
year = {2023}
}