重新思考大语言模型在中文语法纠错中的角色
计算与语言
2024-09-20 v2
摘要
最近，大语言模型 (LLMs) 因其在各种下游自然语言处理 (NLP) 任务中的作用而受到研究人员的广泛研究。作为 NLP 领域的一项基础任务，中文语法纠错 (CGEC) 旨在纠正输入句子中所有潜在的语法错误。先前的研究表明，由于其具有挑战性的任务焦点，LLMs 作为纠错器在 CGEC 上的表现仍不尽如人意。为了促进 CGEC 领域更好地适应 LLMs 时代，我们重新思考了 LLMs 在 CGEC 任务中的角色，以便它们能在 CGEC 中得到更好的利用和探索。考虑到 LLMs 中存储的丰富语法知识及其强大的语义理解能力，我们利用 LLMs 作为解释器，在纠错过程中为 CGEC 小模型提供解释信息以增强性能。我们还使用 LLMs 作为评估器，以带来更合理的 CGEC 评估，从而缓解由 CGEC 任务主观性引起的困扰。特别是，我们的工作也是对 LLMs 和小模型如何在下游任务中更好地协作的积极探索。在广泛使用的数据集上进行的大量实验和详细分析验证了我们思考直觉和所提出方法的有效性。
引用
@article{arxiv.2402.11420,
title = {Rethinking the Roles of Large Language Models in Chinese Grammatical Error Correction},
author = {Yinghui Li and Shang Qin and Haojing Huang and Yangning Li and Libo Qin and Xuming Hu and Wenhao Jiang and Hai-Tao Zheng and Philip S. Yu},
journal= {arXiv preprint arXiv:2402.11420},
year = {2024}
}