中文

一种生成高质量词嵌入的集成方法 (2016)

计算与语言 2019-12-20 v2

摘要

当前计算语义学的一种成功方法是将词语表示为机器学习向量空间中的嵌入。我们提出一种集成方法,其结合了 GloVe (Pennington et al., 2014) 与 word2vec (Mikolov et al., 2013) 产生的嵌入,以及来自语义网络 ConceptNet (Speer and Havasi, 2012) 和 PPDB (Ganitkevitch et al., 2013) 的结构化知识,将它们的信息合并到一个具有大型多语言词汇表的共同表示中。该方法产生的嵌入在许多词语相似度评测中达到了最先进的性能。在罕见词评测 (Luong et al., 2013) 上其 ρ=.596\rho = .596 的分数比先前已知最佳系统高出 16%。

关键词

引用

@article{arxiv.1604.01692,
  title  = {An Ensemble Method to Produce High-Quality Word Embeddings (2016)},
  author = {Robyn Speer and Joshua Chin},
  journal= {arXiv preprint arXiv:1604.01692},
  year   = {2019}
}

备注

Corrected author name, revised reproducibility instructions that didn't work anymore. 12 pages, 3 figures