用于词嵌入学习的词性相关性权重
计算与语言
2016-03-25 v1
摘要
本文提出一种基于词性（POS）相关性权重、利用加权上下文学习词嵌入的模型。词性是自然语言中的基本元素。然而，最先进的词嵌入模型未能考虑它。本文提出使用位置相关的词性相关性加权矩阵来建模上下文窗口内词之间固有的句法关系。我们在词嵌入训练过程中利用词性相关性权重对每个词-上下文对进行建模。本文提出的模型联合优化词向量和词性相关性矩阵。在流行的词类比和词相似度任务上进行的实验均证明了所提方法的有效性。
引用
@article{arxiv.1603.07695,
title = {Part-of-Speech Relevance Weights for Learning Word Embeddings},
author = {Quan Liu and Zhen-Hua Ling and Hui Jiang and Yu Hu},
journal= {arXiv preprint arXiv:1603.07695},
year = {2016}
}
备注
Word embeddings