利用元探索对交互式学生程序给予反馈

开发交互式软件（如网站或游戏）是一种特别引人入胜的学习计算机科学的方式。然而，对此类软件的教学与反馈十分耗时——标准方法要求教师手动批改学生实现的交互式程序。因此，服务于数百万用户的在线平台（如 Code.org）无法对实现交互式程序的作业提供任何反馈，这严重阻碍了学生的学习能力。实现自动评分的一种方法是学习一个智能体，该智能体与学生的程序进行交互，并通过强化学习探索指示错误的状态。然而，现有关于此方法的工作仅提供程序正确与否的二元反馈，而学生需要关于其程序中具体错误的更细粒度反馈以理解错误。在本工作中，我们表明探索以发现错误可被视作一个元探索（meta-exploration）问题。这使我们能够构建一个用于发现错误的原则性目标以及优化该目标的算法，从而提供细粒度反馈。我们在一组来自 Code.org 交互式作业的超过 70 万份真实匿名学生程序上评估了我们的方法。我们的方法以 94.3% 的准确率提供反馈，比现有方法提高 17.7%，并达到距人类水平准确率仅 1.5% 之内。项目网页：https://ezliu.github.io/dreamgrader。