LEXpander:将同概念化网络应用于自动化词典扩展
计算与语言
2023-03-14 v1
摘要
近期,基于社交媒体及其他语料库的文本分析方法常依赖词表来检测主题、度量语义或筛选相关文档。这些词表通常通过对小规模人工标注的根词集合应用计算词典扩展方法而生成。尽管该方法应用广泛,我们仍缺乏对词典扩展方法性能及其如何借助额外语言数据得以改进的全面比较分析。本文提出 LEXpander,一种利用新颖的同概念化(colexification)数据的词典扩展方法,即基于共享概念及到其他语言翻译而连接词项的语义网络。我们在一个包含基于多种词嵌入模型和同义词网络的广泛使用的词典扩展方法的基准测试中评估 LEXpander。我们发现,在多项测试中,LEXpander 在精确率以及生成词表的精确率与召回率权衡方面均优于现有方法。我们的基准测试涵盖英语和德语的若干语言类别与情感变量。我们还表明,扩展后的词表在各种语料库的应用案例中构成了一种高性能的文本分析方法。由此,LEXpander 提供了一种系统化的自动化方案,可将简短词表扩展为详尽且准确的词表,能够紧密近似由心理学与语言学专家生成的词表。
引用
@article{arxiv.2205.15850,
title = {LEXpander: applying colexification networks to automated lexicon expansion},
author = {Anna Di Natale and David Garcia},
journal= {arXiv preprint arXiv:2205.15850},
year = {2023}
}
备注
41 pages, 5 figures