词嵌入的表达能力
机器学习
2013-05-31 v4 计算与语言
机器学习
摘要
我们试图更好地理解几种公开嵌入的质量差异。我们提出了几个任务来帮助区分不同嵌入的特征。我们对情感极性和同义词/反义词关系的评估表明，即使在没有句子结构的情况下，嵌入也能够捕捉到令人惊讶的细微语义。此外，对嵌入的基准测试显示，测试嵌入所捕捉的语义在质量和特征上存在很大差异。最后，我们展示了改变维度数量和每个维度的分辨率对嵌入空间捕获的有效有用特征的影响。我们的贡献强调了嵌入对NLP任务的重要性以及其质量对最终结果的影响。
引用
@article{arxiv.1301.3226,
title = {The Expressive Power of Word Embeddings},
author = {Yanqing Chen and Bryan Perozzi and Rami Al-Rfou and Steven Skiena},
journal= {arXiv preprint arXiv:1301.3226},
year = {2013}
}
备注
submitted to ICML 2013, Deep Learning for Audio, Speech and Language Processing Workshop. 8 pages, 8 figures