使用全局关系向量建模语义相关性
计算与语言
2017-11-16 v1
摘要
诸如 GloVe 之类的词嵌入模型依赖大型语料的共现统计来学习词义的向量表示。这些向量已被证明能捕捉令人惊讶的细粒度语义和句法信息。虽然我们同样可以预期共现统计可用于捕捉关于不同词之间关系的丰富信息,但现有的建模此类关系的方法大多依赖操纵预训练词向量。本文中,我们引入一种直接从共现统计学习关系向量的新方法。为此,我们首先引入 GloVe 的一个变体,其中词向量与 PMI 加权共现向量之间存在显式联系。然后我们展示关系向量如何被自然地嵌入到所得向量空间中。
引用
@article{arxiv.1711.05294,
title = {Modeling Semantic Relatedness using Global Relation Vectors},
author = {Shoaib Jameel and Zied Bouraoui and Steven Schockaert},
journal= {arXiv preprint arXiv:1711.05294},
year = {2017}
}