HyCubE:高效知识超图三维循环卷积嵌入
人工智能
2024-11-05 v3
摘要
知识超图嵌入模型通常因固有的复杂语义信息而计算开销高昂。然而,现有工作主要聚焦于提升知识超图嵌入的有效性,使得模型架构愈发复杂和冗余。对于知识超图嵌入而言,在模型有效性与效率之间取得平衡既令人向往又充满挑战。本文提出一种端到端的高效知识超图嵌入模型 HyCubE,该模型设计了一种新颖的三维循环卷积神经网络和交替掩码堆叠策略,以全面增强特征信息的交互与提取。此外,我们提出的模型通过自适应调整三维循环卷积层结构,以更少的参数处理不同元数的 n 元知识元组,从而在有效性与效率之间实现了更好的权衡。同时,我们采用知识超图 1-N 多线性评分方法来进一步加速模型训练效率。最后,在所有数据集上的大量实验结果表明,我们提出的模型始终优于最先进的基线模型,在所有指标上平均提升 8.22%,最高提升 33.82%。同时,与最新最先进基线模型的平均指标相比,HyCubE 的速度提升了 6.12 倍,GPU 内存使用量降低了 52.67%,参数量减少了 85.21%。
引用
@article{arxiv.2402.08961,
title = {HyCubE: Efficient Knowledge Hypergraph 3D Circular Convolutional Embedding},
author = {Zhao Li and Xin Wang and Jun Zhao and Wenbin Guo and Jianxin Li},
journal= {arXiv preprint arXiv:2402.08961},
year = {2024}
}
备注
13 pages