利用循环神经网络将犹太-阿拉伯语文本音译至阿拉伯字母
计算与语言
2020-10-22 v2
摘要
我们训练了一个模型，用于自动将犹太-阿拉伯语文本音译为阿拉伯字母，使阿拉伯语读者能够接触这些文献。我们采用循环神经网络（RNN），并结合连接主义时序分类（CTC）损失来处理输入/输出长度不等的问题。这需要在训练数据上进行调整，以避免输入序列短于其对应输出序列。我们还利用一个采用不同损失函数的预训练阶段来改善网络收敛。由于仅有一个平行文本来源可用于训练，我们利用了合成生成数据的可能性。我们训练的模型能够记忆输出语言中的词汇，并利用上下文来区分音译中的歧义。相较于 9.5% 字符错误的基线，我们以最佳配置取得了 2% 的错误率。为衡量上下文对学习的贡献，我们还测试了词打乱的数据，其错误率上升至 2.5%。
引用
@article{arxiv.2004.11405,
title = {Transliteration of Judeo-Arabic Texts into Arabic Script Using Recurrent Neural Networks},
author = {Ori Terner and Kfir Bar and Nachum Dershowitz},
journal= {arXiv preprint arXiv:2004.11405},
year = {2020}
}
备注
accepted for WANLP 2020