用于量化语言演变与领域适应的全局锚点方法
计算与语言
2018-12-27 v1 机器学习
机器学习
摘要
语言是动态的,随时间、领域或主题不断演化和适应。语言的适应性是一个活跃的研究领域,研究人员利用词嵌入等分布式工具发现语言中的社会、文化和特定领域的变化。在本文中,我们引入了全局锚点方法用于检测语料库级别的语言演变。我们从理论和经验上证明,在检测语料库级别的语言演变方面,全局锚点方法等价于对齐方法——一种广泛使用的比较词嵌入的方法。尽管两者在检测能力上等价,但我们证明了全局锚点方法在适用性上更具优势,因为它能够比较不同维度的嵌入。此外,全局锚点方法在实现和并行化方面具有优势。我们表明,全局锚点方法揭示了语言演变和领域适应中的精细结构。当与图拉普拉斯技术结合时,全局锚点方法能够恢复不同文本语料库的演化轨迹和领域聚类。
引用
@article{arxiv.1812.10382,
title = {The Global Anchor Method for Quantifying Linguistic Shifts and Domain Adaptation},
author = {Zi Yin and Vin Sachidananda and Balaji Prabhakar},
journal= {arXiv preprint arXiv:1812.10382},
year = {2018}
}
备注
Accepted to NeuRIPS 2018