历时词嵌入揭示语义变化的统计规律
计算与语言
2018-10-26 v6
摘要
理解词语如何随时间改变其含义是语言和文化演化模型的关键，但关于含义的历史数据稀缺，使得理论难以发展和检验。词嵌入作为一种历时工具展现出前景，但尚未经过仔细评估。我们通过针对已知历史变化评估词嵌入（PPMI、SVD、word2vec）开发了量化语义变化的稳健方法。然后我们利用该方法揭示语义演化的统计规律。使用跨越四种语言和两个世纪的六个历史语料库，我们提出两条语义变化的定量规律：(i) 从众律——语义变化速率随词频的逆幂律缩放；(ii) 创新律——与频率无关，多义性更强的词具有更高的语义变化速率。
引用
@article{arxiv.1605.09096,
title = {Diachronic Word Embeddings Reveal Statistical Laws of Semantic Change},
author = {William L. Hamilton and Jure Leskovec and Dan Jurafsky},
journal= {arXiv preprint arXiv:1605.09096},
year = {2018}
}
备注
Association for Computational Linguistics (ACL), 2016. Minor corrections; improved methodology for Section 3