利用位置上下文与外部记忆增强 LexVec 分布式词表示模型
计算与语言
2016-06-07 v1
摘要
本文针对一种最先进的分布式词表示模型——该模型利用窗口采样和负采样显式分解正逐点互信息(PPMI)矩阵——解决其两个不足之处。我们通过使用位置上下文来提升句法性能,并通过在外部记忆上处理聚合数据来解决需在内存中存储 PPMI 矩阵的问题。利用词语相似度和类比任务展示了这两种改进的有效性。
引用
@article{arxiv.1606.01283,
title = {Enhancing the LexVec Distributed Word Representation Model Using Positional Contexts and External Memory},
author = {Alexandre Salle and Marco Idiart and Aline Villavicencio},
journal= {arXiv preprint arXiv:1606.01283},
year = {2016}
}