TransGAT：基于 Transformer 的多维自动作文评分图神经网络
计算与语言
2025-09-03 v1 机器学习
摘要
作文写作是学生评估的关键组成部分，但手动评分费时且不一致。自动作文评分（AES）提供了有前景的替代方案，但当前方法存在局限。近期研究将图神经网络（GNN）引入 AES 时，采用静态词嵌入无法捕捉多义词的语境含义。此外，许多方法依赖整体评分，忽略语法、词汇和连贯性等具体写作方面。为此，本研究提出 TransGAT，一种将微调的 Transformer 模型与 GNN 集成用于分析化评分的新方法。TransGAT 结合 Transformer 的语境理解能力与图注意力网络（GAT）的关系建模能力。它以 Transformer（BERT、RoBERTa 和 DeBERTaV3）为基础，构建双流预测：第一流生成作文级别的预测，第二流将 GAT 应用于 Transformer 标记嵌入，边来源于语法依赖关系。模型随后融合两流预测结果，生成最终的分析化得分。实验在 ELLIPSE 数据集上表明，TransGAT 在所有分析化评分维度上优于基线模型，平均准确率加权 Kappa（QWK）达 0.854。这些发现凸显了 TransGAT 在推动 AES 系统方面的潜力。
关键词
引用
@article{arxiv.2509.01640,
title = {TransGAT: Transformer-Based Graph Neural Networks for Multi-Dimensional Automated Essay Scoring},
author = {Hind Aljuaid and Areej Alhothali and Ohoud Al-Zamzami and Hussein Assalahi},
journal= {arXiv preprint arXiv:2509.01640},
year = {2025}
}