中文

测量历时词义变化:用于贝叶斯推断的新模型与蒙特卡洛方法

计算与语言 2023-11-02 v2 统计方法学

摘要

在词袋模型中,具有多重含义的词(例如“bank”,用于河岸或机构义)的义项被表示为上下文词上的概率分布,而义项流行度被表示为义项上的概率分布。这两者都可能随时间变化。由于典型的高维参数空间和稀疏数据集,建模和度量此类词义变化具有挑战性。最近发布的一个古希腊文本语料库包含针对选定目标词的专家标注义项标签。词“kosmos”(意为装饰、秩序或世界)的自动义项标注已在近期相关生成模型与蒙特卡洛方法的工作中作为测试用例。我们调整现有的生成式词义变化模型,开发一个更简单的义项与时间主效应模型,并给出针对所有这些模型的贝叶斯推断 MCMC 方法,其比现有方法更高效。我们使用我们的模型对含有“kosmos”的片段进行自动义项标注,并度量其三个义项及其流行度随时间的演化。据我们所知,在我们所考虑的生成模型类别中,我们的分析是首个量化不确定性并给出与专家标注高度吻合的演化义项流行度可信集的数据分析。

关键词

引用

@article{arxiv.2105.00819,
  title  = {Measuring diachronic sense change: new models and Monte Carlo methods for Bayesian inference},
  author = {Schyan Zafar and Geoff Nicholls},
  journal= {arXiv preprint arXiv:2105.00819},
  year   = {2023}
}

备注

Additional results included in the appendix