TookaBERT：波斯语 NLU 的一步跨越
计算与语言
2024-07-24 v1
摘要
自然语言处理 (NLP) 领域得益于深度学习和基础模型的强大功能，取得了显著进展。语言模型，特别是 BERT，是这一进步的关键因素。在本研究中，我们使用波斯语数据训练并引入了两个新的 BERT 模型。我们将模型进行测试，將其與七個現有模型在 14 項多樣化波斯語自然语言理解 (NLU) 任务中进行比较。结果表明，我们的大型模型在各项任务中均优于竞争者，平均提升至少 +2.8 分。这凸显了我们新 BERT 模型在波斯语 NLU 任务中有效性和潜力。
引用
@article{arxiv.2407.16382,
title = {TookaBERT: A Step Forward for Persian NLU},
author = {MohammadAli SadraeiJavaheri and Ali Moghaddaszadeh and Milad Molazadeh and Fariba Naeiji and Farnaz Aghababaloo and Hamideh Rafiee and Zahra Amirmahani and Tohid Abedini and Fatemeh Zahra Sheikhi and Amirmohammad Salehoof},
journal= {arXiv preprint arXiv:2407.16382},
year = {2024}
}