BAREC 共享任务 2025 中的 !MSA：集成 Arabic Transformer 用于可读性评估
计算与语言
2025-09-15 v1
摘要
我们展示了 MSA 在 2025 年 BAREC 共享任务（关于细粒度阿拉伯语可读性评估）中的获胜系统，在全部六个赛道中获得第一名。我们的方法是对四个互补的 Transformer 模型（AraBERTv2、AraELECTRA、MARBERT 和 CAMeLBERT）进行置信度加权集成，每个模型均使用不同的损失函数进行微调，以捕获多样化的可读性信号。为了应对严重的类别不平衡和数据稀缺，我们应用了加权训练、高级预处理、使用我们最强模型对 SAMeR 语料库进行重新标注，以及通过 Gemini 2.5 Flash 生成合成数据，增加了约 10,000 个稀有级别样本。针对性的后处理步骤纠正了预测分布偏斜，带来了 6.3 个百分点的二次加权 Kappa (QWK) 提升。我们的系统在句子级别达到了 87.5% 的 QWK，在文档级别达到了 87.4%，证明了模型与损失多样性、置信度引导的融合以及智能增强对于稳健的阿拉伯语可读性预测的有效性。
引用
@article{arxiv.2509.10040,
title = {!MSA at BAREC Shared Task 2025: Ensembling Arabic Transformers for Readability Assessment},
author = {Mohamed Basem and Mohamed Younes and Seif Ahmed and Abdelrahman Moustafa},
journal= {arXiv preprint arXiv:2509.10040},
year = {2025}
}
备注
10 Pages , 8 figures , ArabicNLP 2025 , Co-located with EMNLP 2025