中文

可裁剪知识图谱嵌入

人工智能 2025-06-13 v2 机器学习

摘要

知识图谱嵌入(KGE)是知识图谱(KG)在AI任务中常用的方法。嵌入维度取决于应用场景。需要新的维度意味着需要从头训练新的KGE模型,这会增加成本并限制效率和灵活性。在本工作中,我们提出了一种新的KGE训练框架MED。它允许一次训练获得用于多个具有不同维度需求场景的可裁剪KGE模型。所需维度的子模型可以直接裁剪并使用,而无需额外训练。在MED中,我们提出了一种互学习机制来提高低维子模型的性能,并使高维子模型保留低维子模型的能力;以及一种演化式改进机制,以促进高维子模型掌握低维子模型无法掌握的三元组;以及一种动态损失权重以自适应地平衡多个损失。实验在4个KGE模型上进行,涵盖4个标准KG完成数据集,3个实际场景中使用大规模KG,以及将MED扩展到BERT语言模型,均显示其有效性、高效率和灵活的可扩展性。

关键词

引用

@article{arxiv.2407.02779,
  title  = {Croppable Knowledge Graph Embedding},
  author = {Yushan Zhu and Wen Zhang and Zhiqiang Liu and Mingyang Chen and Lei Liang and Huajun Chen},
  journal= {arXiv preprint arXiv:2407.02779},
  year   = {2025}
}

备注

Accepted to ACL 2025 Main Conference