一种嵌入式历时义项变更模型及以古希腊语为例的个案研究
计算与语言
2024-10-03 v5 统计方法学
摘要
词义随时间变化，词义词项在过程中演变、出现或消失。对于古代语言，其语料库通常小而稀疏，准确建模此类变化颇具挑战，因而量化义项变更估计中的不确定性变得重要。GASC（Genre-Aware Semantic Change，体裁感知语义变更）与 DiSC（Diachronic Sense Change，历时义项变更）是已有的生成模型，曾用于在无任何预训练辅助下通过无监督学习分析来自古希腊语文本语料库的目标词义项变更。这些模型将给定目标词（如“kosmos”，意为装饰、秩序或世界）的义项表示为上下文词上的分布，并将义项流行度表示为义项上的分布。模型采用马尔可夫链蒙特卡洛（MCMC）方法拟合，以度量这些表示的时间变化。本文引入 EDiSC，一种嵌入式 DiSC 模型，其将词嵌入与 DiSC 结合以提供更优的模型性能。经验表明，EDiSC 在预测精度、真值恢复与不确定性量化，以及更好的 MCMC 采样效率与可扩展性方面均有提升。本文也讨论了拟合这些模型的挑战。
引用
@article{arxiv.2311.00541,
title = {An Embedded Diachronic Sense Change Model with a Case Study from Ancient Greek},
author = {Schyan Zafar and Geoff K. Nicholls},
journal= {arXiv preprint arXiv:2311.00541},
year = {2024}
}