中文

自动作文评分:基于Jaccard系数与Cosine相似度的n-gram变体向量空间模型方法

计算与语言 2025-10-20 v1 计算机与社会 软件工程

摘要

自动作文评分(Automated Essay Scoring, AES)是旨在提供高效且准确评估工具以评估书写内容的关键研究领域。本研究探讨了两种流行相似度度量——Jaccard系数和Cosine相似度——在向量空间模型(VSM)中采用unigram、bigram和trigram表示的有效性。本研究使用的数据来自初中毕业证教育科目的形成性作文。每篇作文经过预处理,以n-gram模型提取特征,随后进行向量化以将文本数据转换为数值表示。然后,使用Jaccard系数和Cosine相似度计算作文之间的相似度得分。通过分析根均方误差(RMSE),即人类评分员与系统生成评分之间的差异,来评估系统性能。结果表明,Cosine相似度优于Jaccard系数。在n-gram方面,unigram的RMSE低于bigram和trigram。

关键词

引用

@article{arxiv.2510.15311,
  title  = {Automatic essay scoring: leveraging Jaccard coefficient and Cosine similaritywith n-gram variation in vector space model approach},
  author = {Andharini Dwi Cahyani and Moh. Wildan Fathoni and Fika Hastarita Rachman and Ari Basuki and Salman Amin and Bain Khusnul Khotimah},
  journal= {arXiv preprint arXiv:2510.15311},
  year   = {2025}
}