词嵌入中语法性编码的探究
计算与语言
2020-11-04 v2
摘要
词的向量表示，即词嵌入，为语言学研究开辟了新的研究途径。这些表示能够捕捉关于词的不同类型信息。名词的语法性是基于其形式和语义属性对名词的典型分类。基于词嵌入研究语法性可以深入理解语法性如何确定的讨论。在本研究中，我们根据确定名词语法性的神经分类器的准确率比较了不同的词嵌入集合。研究发现，瑞典语、丹麦语和荷兰语嵌入中语法性的编码方式存在重叠。我们在上下文嵌入上的实验结果表明，向嵌入中添加更多上下文信息不利于分类器的性能。我们还观察到，从嵌入的训练语料中移除冠词等形态句法特征会急剧降低分类性能，表明大量信息编码在名词与冠词的关系中。
引用
@article{arxiv.2008.01946,
title = {An exploration of the encoding of grammatical gender in word embeddings},
author = {Hartger Veeman and Ali Basirat},
journal= {arXiv preprint arXiv:2008.01946},
year = {2020}
}
备注
Accepted at the 4th Swedish Symposium on Deep Learning (SSDL-2020) and the 8th Swedish Language Technology Conference (SLTC-2020)