利用对抗权重扰动和度量特定注意力池化增强作文评分
计算与语言
2024-01-12 v1 人工智能
摘要
本研究的目的是通过利用数据科学技术（包括机器学习、自然语言处理和教育数据分析）来改进为英语学习者(ELLs)设计的自动反馈工具。自动作文评分(AES)研究在评估书面作文方面取得了进展，但往往忽视了英语学习者在语言发展方面的特定需求。本研究探索了BERT相关技术在AES中增强对英语学习者写作能力评估的应用。为了满足英语学习者的特定需求，我们提出使用DeBERTa（一种最先进的神经语言模型）来改进自动反馈工具。DeBERTa通过自监督学习在大型文本语料库上进行预训练，学习可适应各种自然语言理解任务的通用语言表示。该模型融合了多种创新技术，包括通过对抗权重扰动(AWP)进行的对抗训练，以及针对竞赛中每个标签的度量特定注意力池化（6种AP）。本研究的主要焦点是研究超参数（特别是对抗学习率）对模型性能的影响。通过微调超参数调整过程，包括6AP和AWP的影响，得到的模型可以为英语学习者提供更准确的语言能力评估，并支持定制化的学习任务。这项工作有可能通过提高英语学习者的英语语言能力并促进他们的教育旅程而显著受益。
引用
@article{arxiv.2401.05433,
title = {Enhancing Essay Scoring with Adversarial Weights Perturbation and Metric-specific AttentionPooling},
author = {Jiaxin Huang and Xinyu Zhao and Chang Che and Qunwei Lin and Bo Liu},
journal= {arXiv preprint arXiv:2401.05433},
year = {2024}
}
备注
This article was accepted by 2023 International Conference on Information Network and Computer Communications(INCC)