中文

DiVERT:基于变分误差表示为文本的数学多选题干扰项生成

计算与语言 2024-10-10 v2 计算机与社会 机器学习

摘要

高质量的干扰项对多选题的评估与教育价值至关重要,然而手动编写能预见学生知识缺陷或误解的干扰项极具挑战性。同时,尽管借助大语言模型(LLM),自动化干扰项生成在数学等学科仍具挑战。必须既识别合理的干扰项,又理解其背后的错误。本文引入 DiVERT(Distractor Generation with Variational Errors Represented as Text,即基于变分误差表示为文本的干扰项生成),一种新型变分方法,通过可解释地表示干扰项背后的错误来实现干扰项生成。我们在真实世界的数学多选题数据集上进行实验,该数据集包含 1434 题,已被数十万学生使用。我们的实验表明,尽管 DiVERT 使用的基础开源 LLM 仅有 7B 参数,但在下游干扰项生成任务上超越了使用 GPT-4o 的最先进方法。我们还对数学教育者进行了人类评估,发现 DiVERT 生成的错误标签质量与人工编写的相当。

关键词

引用

@article{arxiv.2406.19356,
  title  = {DiVERT: Distractor Generation with Variational Errors Represented as Text for Math Multiple-choice Questions},
  author = {Nigel Fernandez and Alexander Scarlatos and Wanyong Feng and Simon Woodhead and Andrew Lan},
  journal= {arXiv preprint arXiv:2406.19356},
  year   = {2024}
}

备注

EMNLP 2024: The 2024 Conference on Empirical Methods in Natural Language Processing