中文

基于大型语言模型的数学多项选择题自动干扰项生成探索

计算与语言 2024-04-19 v3

摘要

多项选择题(MCQs)在几乎所有教育阶段都无处不在,因为它们易于管理、评分,并且在评估和练习中是一种可靠的格式。MCQs 最重要的方面之一是干扰项,即为针对真实学生常见的错误或误解而设计的错误选项。迄今为止,精心设计高质量干扰项的任务对教师和学习内容设计者来说在很大程度上仍然是一个耗费大量人力和时间且密集的过程,这限制了其可扩展性。在这项工作中,我们研究了数学 MCQs 领域的自动干扰项生成任务,并探索了各种基于大型语言模型(LLM)的方法,从上下文学习到微调。我们使用真实的数学 MCQ 数据集进行了广泛的实验,发现尽管 LLM 能够生成一些数学上有效的干扰项,但它们在预测真实学生常见的错误或误解方面能力不足。

关键词

引用

@article{arxiv.2404.02124,
  title  = {Exploring Automated Distractor Generation for Math Multiple-choice Questions via Large Language Models},
  author = {Wanyong Feng and Jaewook Lee and Hunter McNichols and Alexander Scarlatos and Digory Smith and Simon Woodhead and Nancy Otero Ornelas and Andrew Lan},
  journal= {arXiv preprint arXiv:2404.02124},
  year   = {2024}
}

备注

NAACL 2024 findings