基于半监督训练的知识库图自注意力网络链接预测
人工智能
2022-09-07 v1 机器学习
摘要
链接预测任务旨在解决因从真实世界收集事实困难而导致知识不完整的问题。基于GCN的模型因其成熟性被广泛应用于解决链接预测问题，但基于GCN的模型在结构与训练过程中面临两个问题。1) 在基于GCN的知识表示模型中，GCN层的变换方法变得日益复杂；2) 由于知识图收集过程的不完整性，标注的负样本中存在许多未收集到的真实事实。因此，本文研究了相邻节点信息聚合系数(自注意力)的特性，并重新设计了GAT结构的自注意力机制。同时，受人类思维习惯启发，我们设计了一种基于预训练模型的半监督自训练方法。在基准数据集FB15k-237和WN18RR上的实验结果表明，我们提出的自注意力机制和半监督自训练方法能有效提升链接预测任务的性能。以FB15k-237为例，所提方法将Hits@1提升了约30%。
引用
@article{arxiv.2209.01350,
title = {Semi-supervised Training for Knowledge Base Graph Self-attention Networks on Link Prediction},
author = {Shuanglong Yao and Dechang Pi and Junfu Chen and Yufei Liu and Zhiyuan Wu},
journal= {arXiv preprint arXiv:2209.01350},
year = {2022}
}