中文

基于深度学习的自动短答案评分综述:从词嵌入到Transformer

计算与语言 2022-04-08 v1 人工智能 机器学习

摘要

自动短答案评分(ASAG)作为将教育任务规模化以适应日益增长的学生数量的一种手段,已在教育领域受到关注。自然语言处理和机器学习的最新进展极大地影响了ASAG领域,我们对该领域的最新研究进展进行了综述。我们通过全面分析最近发表的采用深度学习方法的论文,对以往的综述进行了补充。我们特别将分析重点放在从手工设计特征到表示学习方法的转变上,后者能从大型数据语料库中自动学习当前任务所需的代表性特征。我们将深度学习方法的结构化分析分为三个类别:词嵌入、序列模型和基于注意力的方法。深度学习对ASAG的影响不同于其他NLP领域,因为我们注意到,仅凭学习到的表示本身并不能取得最佳结果,而是显示出它们与手工设计特征以互补的方式协同工作。最佳性能确实是由那些将精心手工设计的特征与最新模型(如Transformer架构)提供的语义描述能力相结合的方法实现的。我们指出了挑战,并对未来可以探索的研究方向进行了展望。

关键词

引用

@article{arxiv.2204.03503,
  title  = {Survey on Automated Short Answer Grading with Deep Learning: from Word Embeddings to Transformers},
  author = {Stefan Haller and Adina Aldea and Christin Seifert and Nicola Strisciuglio},
  journal= {arXiv preprint arXiv:2204.03503},
  year   = {2022}
}

备注

Under review