从模型到课堂:评估面向葡萄牴语的生成式选择题
计算与语言
2025-06-19 v1 人工智能
摘要
虽然选择题(MCQs)在学习和评估中具有重要价值,但手动创建具有不同难度水平且针对阅读技能的选择题仍然耗时且成本高昂。近期生成式AI的进展为高效自动化生成选择题提供了机会。然而,关于评估生成选择题实际质量和可靠性的关注有限——尤其是当生成失败时。这一方面在生成选择题用于实际应用时尤为重要。此外,大多数选择题生成研究聚焦于英语,其他语言鲜有涉及。本文探讨了当前生成模型在为葡萄牴语阅读理解生成选择题方面的能力,这是一种形态丰富的语言。我们的研究聚焦于生成符合课程相关叙述元素且涵盖不同难度水平的选择题。我们通过专家审阅并分析来自学生响应中提取的心理测量属性来评估这些选择题,以评估其适用于小学生的适当性。我们的结果表明,当前模型能够生成质量相当于人类编写的选择题。然而,我们识别出与语义清晰性和可答案性相关的问题。此外,在生成引人入胜的干扰项且满足高质量选择题选项设计既定标准方面,仍存在挑战。
引用
@article{arxiv.2506.15598,
title = {From Model to Classroom: Evaluating Generated MCQs for Portuguese with Narrative and Difficulty Concerns},
author = {Bernardo Leite and Henrique Lopes Cardoso and Pedro Pinto and Abel Ferreira and Luís Abreu and Isabel Rangel and Sandra Monteiro},
journal= {arXiv preprint arXiv:2506.15598},
year = {2025}
}
备注
This is a preprint version of the manuscript currently under review at an international journal