面向参数高效知识图谱嵌入的实体无关表示学习
计算与语言
2023-02-06 v1
摘要
我们提出了一种实体无关的表示学习方法，用于处理知识图谱嵌入带来的参数存储成本低效问题。传统的知识图谱嵌入方法通过为知识图谱中的元素（包括实体和关系）分配一个或多个特定的嵌入（即向量表示），将它们映射到连续的向量空间中。因此，嵌入参数的数量随着知识图谱的增长而线性增加。在我们提出的模型——实体无关表示学习（EARL）中，我们仅学习一小部分实体的嵌入，并将其称为保留实体。为了获得完整实体集的嵌入，我们对其可区分信息进行编码，这些信息来自它们连接的关系、k个最近保留实体以及多跳邻居。我们学习通用且实体无关的编码器，将可区分信息转换为实体嵌入。这种方法使得我们提出的EARL具有静态、高效且参数数量少于传统知识图谱嵌入方法的特点。实验结果表明，EARL在链接预测任务上使用更少的参数，且性能优于基线模型，反映了其参数效率。
引用
@article{arxiv.2302.01849,
title = {Entity-Agnostic Representation Learning for Parameter-Efficient Knowledge Graph Embedding},
author = {Mingyang Chen and Wen Zhang and Zhen Yao and Yushan Zhu and Yang Gao and Jeff Z. Pan and Huajun Chen},
journal= {arXiv preprint arXiv:2302.01849},
year = {2023}
}
备注
Accepted to AAAI 2023 conference