中文

ALL-IN-ONE:用于同伴互评评估的多任务学习 BERT 模型

计算与语言 2021-10-11 v1 人工智能

摘要

过去几十年中,同伴互评已广泛应用于众多学科领域并展现出其有效性。然而,唯有高质量的同伴评审方能实现同伴互评的优势。既往研究发现,高质量的评审意见通常具备若干特征(如含建议、提及问题、使用积极语气)。因此,研究者已尝试通过各类机器学习与深度学习模型检测不同特征以评估同伴评审意见。然而,尚无研究探讨利用多任务学习(MTL)模型同时检测多种特征。本文提出两种 MTL 模型,通过借助最先进的预训练语言表示模型 BERT 与 DistilBERT 来评估同伴评审意见。我们的结果表明,在检测单一特征任务上,基于 BERT 的模型在 F1 分数上显著优于既往基于 GloVe 的方法约 6%,且 MTL 在缩减模型规模的同时进一步提升性能。

关键词

引用

@article{arxiv.2110.03895,
  title  = {ALL-IN-ONE: Multi-Task Learning BERT models for Evaluating Peer Assessments},
  author = {Qinjin Jia and Jialin Cui and Yunkai Xiao and Chengyuan Liu and Parvez Rashid and Edward F. Gehringer},
  journal= {arXiv preprint arXiv:2110.03895},
  year   = {2021}
}