中文

SinaTools:阿拉伯语自然语言处理的开源工具包

计算与语言 2024-11-05 v1 人工智能

摘要

我们介绍了SinaTools,一个用于阿拉伯语自然语言处理和理解的开源Python软件包。SinaTools是一个统一的软件包,允许人们将其集成到系统工作流中,为各种任务提供解决方案,包括扁平和嵌套的命名实体识别(NER)、完全标注的词义消歧(WSD)、语义相关性、同义词提取与评估、词形还原、词性标注、词根标注,以及额外的辅助工具如语料库处理、文本剥离方法和感知音标的词匹配。本文介绍了SinaTools及其基准测试结果,展示了SinaTools在上述任务上优于所有类似工具,例如扁平NER(87.33%)、嵌套NER(89.42%)、WSD(82.63%)、语义相关性(0.49 Spearman秩)、词形还原(90.5%)、词性标注(97.5%)等。SinaTools可从https://sina.birzeit.edu/sinatools下载。

关键词

引用

@article{arxiv.2411.01523,
  title  = {SinaTools: Open Source Toolkit for Arabic Natural Language Processing},
  author = {Tymaa Hammouda and Mustafa Jarrar and Mohammed Khalilia},
  journal= {arXiv preprint arXiv:2411.01523},
  year   = {2024}
}

备注

10 pages, 3 figures