中文

迁移学习时代的阿拉伯语文本变音标记:令牌分类即所需

计算与语言 2024-01-11 v1

摘要

阿拉伯语文本的自动变音标记涉及向文本添加变音符号(diacritics)。这一任务对计算处理和理解具有重大挑战和显著影响。本文提出 PTCAD(面向阿拉伯语变音标记的预微调令牌分类),一种用于阿拉伯语文本变音标记任务的新型两阶段方法。PTCAD 包含预微调阶段和微调阶段,将阿拉伯语文本变音标记视为预训练模型的令牌分类任务。通过在源自 Tashkeela 数据集的两个基准数据集上的评估,证明了 PTCAD 的有效性,其取得了最先进的结果,包括与现有基准相比词错误率(WER)降低 20%,并在 ATD 任务中表现优于 GPT-4。

关键词

引用

@article{arxiv.2401.04848,
  title  = {Arabic Text Diacritization In The Age Of Transfer Learning: Token Classification Is All You Need},
  author = {Abderrahman Skiredj and Ismail Berrada},
  journal= {arXiv preprint arXiv:2401.04848},
  year   = {2024}
}

备注

32 pages, 3 figures, journal