阿拉伯语作文熟练度的结构化提示:基于特征的评估方法
计算与语言
2026-03-23 v1
摘要
本文提出了一种用于阿拉伯语作文熟练度的trait-specific自动评分(AES)的新型提示工程框架,利用大语言模型(LLM)在零-shot和few-shot配置下。针对阿拉伯语稀缺的、语言导向的AES工具,本文引入三级提示策略(标准式、混合式和 rubric-guided式),引导LLM评估诸如组织、词汇、发展和风格等不同语言熟练度特征。混合方法模拟多智能体评估,包括特征专家评分员;rubric-guided方法则纳入带评分示例以增强模型对齐。在零和few-shot设置下,我们在QAES数据集上评估了八个LLM,该数据集是首个公开的阿拉伯语AES资源,包含特征级别标注。实验结果采用二次加权Kappa(QWK)和置信区间显示,Fanar-1-9B-Instruct在零和few-shot提示下在所有特征级别上实现最高的一致性(QWK = 0.28 和 CI = 0.41),rubric-guided提示在所有特征和模型中均实现持续提升。发展和风格等话语层面特征显示出最大的改进。这些发现表明,结构化提示而非模型规模alone,使阿拉伯语AES能够有效实现。本研究首次提出面向熟练度的阿拉伯语AES综合框架,为低资源教育情境下的可扩展评估奠定了基础。
引用
@article{arxiv.2603.19668,
title = {Structured Prompting for Arabic Essay Proficiency: A Trait-Centric Evaluation Approach},
author = {Salim Al Mandhari and Hieu Pham Dinh and Mo El-Haj and Paul Rayson},
journal= {arXiv preprint arXiv:2603.19668},
year = {2026}
}
备注
13 pages