中文

ProtoTransformer:一种用于提供学生反馈的元学习方法

计算机与社会 2021-10-05 v2 机器学习

摘要

高质量的计算机科学教育受限于难以大规模向学生提供教师反馈。尽管原则上这种反馈可以实现自动化,但预测正确反馈的监督方法受限于标注大量学生代码的不可行性。在本文中,我们转而将提供反馈的问题构建为少样本分类,其中元学习器仅从教师标注的少量示例中适应,对新编程问题上的学生代码给出反馈。由于用于元训练的数据有限,我们提出了对典型少样本学习框架的若干改进,包括创建合成任务的任务增强,以及用于构建关于每个任务的更强先验的额外辅助信息。这些改进与 transformer 架构相结合,将离散序列(如代码)嵌入到反馈类标签的原型表示中。在一系列少样本自然语言处理任务上,我们达到或超越了最先进的性能。随后,在某大学入门课程学生考题解答的集合上,我们表明我们的方法在未见问题上达到 88% 的平均精度,超过了助教 82% 的精度。我们的方法已成功部署,为一所一流大学开设的编程课程中的 16000 份学生考题解答提供反馈。据我们所知,这是基于机器学习的反馈系统首次成功部署于开放式学生代码。

关键词

引用

@article{arxiv.2107.14035,
  title  = {ProtoTransformer: A Meta-Learning Approach to Providing Student Feedback},
  author = {Mike Wu and Noah Goodman and Chris Piech and Chelsea Finn},
  journal= {arXiv preprint arXiv:2107.14035},
  year   = {2021}
}

备注

9 pages content; 6 pages supplement