击败GAN:更简模型在知识表示学习中胜出
机器学习
2019-04-04 v1 人工智能
摘要
知识表示学习的目标是将实体与关系嵌入低维连续向量空间。如何推动模型至其极限并获得更优结果,在知识图谱应用中具有重要意义。我们提出一种简单优雅的方法Trans-DLR,其主要思想为训练过程中的动态学习率控制。与近期基于GAN的方法相比,我们的方法取得了显著改进。此外,我们引入一种新的负采样技巧,以不同概率不仅破坏实体,也破坏关系。我们还开发了一种高效方式,充分利用多进程与并行计算,以加速模型在链接预测任务中的评估。实验表明我们的方法有效。
引用
@article{arxiv.1904.01777,
title = {Defeats GAN: A Simpler Model Outperforms in Knowledge Representation Learning},
author = {Heng Wang and Mingzhi Mao},
journal= {arXiv preprint arXiv:1904.01777},
year = {2019}
}
备注
5 pages, 1 figure, has been accepted as a conference paper of the 3rd IEEE International Conference on Computational Intelligence and Applications (ICCIA 2018)