CCL24-Eval 任务 7:多错误建模与中文作文评估的流畅度聚焦预训练系统报告
计算与语言
2024-07-12 v1
摘要
本系统报告介绍了我们在 CCL-2024 中面向中文作文流畅度评估 (CEFE) 任务的方法与结果。对于 Track 1,我们针对具有挑战性的细粒度错误类型进行了优化,使用二分类模型提高预测精度,并在中文学习者 4W 语料库上训练粗粒度模型。Track 2 中,我们构建了包含多种错误类型 per 句子的伪数据集以提升性能。对于 Track 3,我们实现了第一名成绩,方法是通过 back-translation 生成带流畅度评级的伪数据进行预训练,并采用基于 NSP 的策略结合对称交叉熵损失来捕获上下文并缓解长距离依赖问题。我们的方法有效解决了中文作文流畅度评估中的关键挑战。
引用
@article{arxiv.2407.08206,
title = {System Report for CCL24-Eval Task 7: Multi-Error Modeling and Fluency-Targeted Pre-training for Chinese Essay Evaluation},
author = {Jingshen Zhang and Xiangyu Yang and Xinkai Su and Xinglu Chen and Tianyou Huang and Xinying Qiu},
journal= {arXiv preprint arXiv:2407.08206},
year = {2024}
}