中文

超越阿拉伯语:面向波斯-阿拉伯文字处理的软件

计算与语言 2024-01-30 v1

摘要

本文提出一个开源软件库,提供一组有限状态转换器 (FST) 组件及相应工具,用于处理使用波斯-阿拉伯文字的语言的书写系统。这些操作包括各级别的文字规范化,涵盖保持视觉不变性的操作(其包含并超越了标准 Unicode 规范化形式),以及依据来自不同语系的十一种当代语言的地方正字法对字符视觉外观进行修改的变换。该库还提供简单的基于 FST 的罗马化与音译。我们还试图通过提供从 Unicode 码点到使用它们的语言的一对多映射,来形式化波斯-阿拉伯字符的类型学。尽管我们的工作聚焦于阿拉伯文字的扩散圈而非阿拉伯语本身,该方法可被任何使用阿拉伯文字的语言所采用,从而为一个被近十亿人使用的文字家族提供统一框架。

关键词

引用

@article{arxiv.2301.11406,
  title  = {Beyond Arabic: Software for Perso-Arabic Script Manipulation},
  author = {Alexander Gutkin and Cibu Johny and Raiomond Doctor and Brian Roark and Richard Sproat},
  journal= {arXiv preprint arXiv:2301.11406},
  year   = {2024}
}

备注

Preprint to appear in the Proceedings of the 7th Arabic Natural Language Processing Workshop (WANLP 2022) at EMNLP, Abu Dhabi, United Arab Emirates, December 7-11, 2022. 7 pages