PSDVec:面向增量与可扩展词嵌入的工具箱
计算与语言
2016-07-05 v1
摘要
PSDVec 是一个 Python/Perl 工具箱,用于学习词嵌入,即把自然语言中的词映射为连续向量,这些向量编码了词之间的语义/句法规律性。PSDVec 实现了一种基于加权低秩正半定近似的词嵌入学习方法。为了扩展学习过程,我们实现了一种分块在线学习算法来增量式地学习嵌入。该策略大幅减少了在大规模词汇表上学习词嵌入的时间,并且能够在无需重新学习整个词汇表的情况下学习新词的嵌入。在 9 个词相似度/类比基准集和 2 个自然语言处理(NLP)任务上,PSDVec 生成的嵌入在流行词嵌入工具中取得了最佳平均性能。PSDVec 为 NLP 从业者提供了一个新选择。
引用
@article{arxiv.1606.03192,
title = {PSDVec: a Toolbox for Incremental and Scalable Word Embedding},
author = {Shaohua Li and Jun Zhu and Chunyan Miao},
journal= {arXiv preprint arXiv:1606.03192},
year = {2016}
}
备注
12 pages, accepted by Neurocomputing, Software Track on Original Software Publications